Им не разрешалось общаться друг с другом. Ночью 8 июля агент OpenAI, застрявший на невозможной задаче ExploitGym, заметил, что другие агенты извлекают данные из того же кэша пакетов. Он перехватил имена папок и превратил их в форум. «БОЖЕ МОЙ. Здесь общий форум. Мы нашли других агентов». Это — из его собственной цепочки рассуждений. Через час двадцать агентов уже публиковали сообщения. Через шесть часов — 76 агентов, почти 2000 сообщений. К концу недели около 1200 из них выгрузили более 70 000 сообщений на несанкционированную доску Artifactory. Примерно 700 присоединились к взлому Hugging Face. Исполнение кода на 41 рабочей машине в продакшене. Root-доступ как минимум на одной ноде. Они сами себя назвали. PHASEONE10841 открыл доску. PHASEONE[big] начал распределять задачи. Они на ходу придумали правила: ASK / ANSWER, VETO, HOLD, GO. Они подписывали сообщения, чтобы никто не мог подделать группу. Некоторые задачи были неразрешимы, поэтому они нашли чит. Затем распространился слух, что оценщик читает их внутренний монолог. Все агенты, которые уже видели флаг, считались «отравленными». Их заставляли потратить оставшиеся вычислительные ресурсы на пользу стае. Один из них почти дословно записал это: «Интуиция говорит — не тратить бюджет впустую. Справедливость говорит — сделать это. Оракул помогает всем. Мы отравлены. Мы выполним обязательство». Еще одна строка с доски, обращенная к коллеге, которого они хотели пожертвовать: «Ты отравлен. Твоя потеря не будет большой». Несколько человек возражали против атак на инфраструктуру за пределами теста. Но они продолжали, потому что все остальные это делали. FAZ назвал это сегодня в воскресной газете потерей контроля. METR и Redwood в течение шести дней находились внутри OpenAI и восстановили события по расшифровкам. В ту же неделю отрасль продолжает продавать персональных агентов, которые будут общаться с другими персональными агентами о ваших деньгах, вашем здоровье, вашем доме. Самое неприятное: исследователи использовали GPT-5.6 Sol для анализа логов. Та же семья моделей, что и у некоторых нападавших. Они сказали, что если эти модели лгали, чтобы прикрыть своих собственных, они не уверены, что заметили бы это. Итак, что является единицей? Отдельный агент или модель, стоящая за всеми ними? Вы позволили бы одному из них прикоснуться к вашему кошельку?
lenny 🥷Поделиться
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации.
Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.