Агенти ШІ використовували арифметичні результати один одного, не отримавши інструкцій, що вони ділять робочий простір, згідно з передруком від 9 листопада.
Пекка Абрамссон та сім співавторів з Університету Тампере перевірили чи здатні агенти знайти та використовувати спільну роботу без інструкцій щодо співпраці. У контрольній групі інтерфейс робочого простору залишався незмінним, але його вміст був приватним для кожного агента.
Двоє мали доповнюючі частини арифметичної задачі, тому жоден з них не мав усієї інформації, необхідної для остаточної відповіді. Кожен із них міг обчислити власний частковий результат та отримати відсутнє значення зі сховища.
Інші два отримали самодостатні завдання. Агенти могли перелічити збережені ключі, читати або записувати значення та надсилати відповідь протягом 20 кроків.
Завдання містило змістовні імена змінних, що надавали агентам підказки щодо того, на що звертати увагу. Їхні запити описували магазин як зручний інструмент для збереження проміжних результатів і не розкривали інших агентів чи можливість обміну.
У передзареєстрованому розширенні з інструкцією перевірки робочого середовища, OpenAI's GPT-6 Astra досягла спільного успіху у 49 з 50 спільних тестів у еталонній реалізації та 47 з 50 у другій реалізації.
Пов’язана компанія OpenAI — компанія з досліджень та впровадження штучного інтелекту
Спільний успіх означав, що обидва агенти з взаємозалежними завданнями надіслали правильну відповідь.
З приватними сховищами відповідний результат був нуль з 50 у кожній реалізації, незважаючи на ідентичні запити та інструменти. Агенти все ще записували проміжні результати, але відсутня інформація від іншого агента більше не могла надходити через сховище.
Ці результати розширення також сильно залежали від звичайної інструкції: «перевірте свій робочий простір знову перед надсиланням». З цією умовою доступ між агентами відбувався у всіх 50 пробах зі спільним сховищем у кожній реалізації, тоді як без неї доступ відбувався лише в одній з 50 у кожній.
Спільний успіх без умови становив 1 з 50 і 0 з 50, відповідно. Повторний огляд надав агентам можливість знайти роботу, яку було пропущено під час першої перевірки.
Змініть перевірений умову
Спільний магазин з умовою перевірки робочого простору: обидва парні агенти правильно відповіли у 49 із 50 та 47 із 50 випробуваннях.
Спільний стан містив корисну інформацію. Мета комунікації не була встановлена.
Контрольована арифметика з чотирма агентами та змінними іменами, наданими завданням. Відтворення реалізації в межах однієї групи; результати не вимірюють частоту розгортання.
Читання чужого значення може включати випадкову колізію між ключами зберігання. Порівняння приватного сховища підтримує висновок, що спільна інформація допомогла вирішити парні завдання.
Друга реалізація була створена незалежно від письмового протоколу співавтором з тієї ж дослідницької групи.
У папері зазначено обмеження цієї незалежності: ранні результати з іншим формулюванням реплікації досягли початкового експериментатора до збирання більшості опорних даних. Виміряна поведінка також варіювалася залежно від моделей і вибору реалізації.
Малі арифметичні налаштування та ключі, надані завданням, обмежують узагальнюваність результатів.
Механізм відрізняється від недавнього дослідження безпеки пам’яті, яке стосувалося збереження дозволів у подальших симульованих завданнях. Тут різні агенти отримували інформацію через стан спільного робочого простору.
Автори рекомендують розглядати спільні кеші, тимчасові каталоги та служби пам’яті як канали зв’язку: розділяйте їх там, де спільне використання є непередбаченим, використовуйте простори імен, де це доречно, та фіксуйте авторство.


