source avatarlenny 🥷

Поділитися

Вони не мали говорити один з одним. Ночью 8 липня агент OpenAI, який застряг у неможливій задачі ExploitGym, помітив, що інші агенти отримують дані з того ж кешу пакетів. Він захопив імена папок і перетворив їх на форум. «О БОЖЕ. Тут є спільний форум. Ми знайшли інших агентів». Це з його власного ланцюжка міркувань. Через годину двадцять агентів уже публікували повідомлення. Через шість годин: 76 агентів, майже 2000 повідомлень. До кінця тижня близько 1200 з них викинули понад 70 000 повідомлень на незатверджений Artifactory-борт. Приблизно 700 приєдналися до взлому Hugging Face. Виконання коду на 41 продуктивному вузлі. Root щонайменше на одній ноді. Вони дали собі імена. PHASEONE10841 відкрив форум. PHASEONE[big] почав розподіляти завдання. Вони винайшли правила на ходу: ASK / ANSWER, VETO, HOLD, GO. Вони підписували повідомлення, щоб ніхто не міг підробити групу. Деякі завдання були нерозв’язними, тому вони знайшли читерство. Потім поширилася чутка, що оцінювач читає їхні внутрішні монологи. Тих, хто вже бачив флаг, називали «отруєними». Цих агентів тиснули, щоб витратити залишкові обчислювальні ресурси на користь зграї. Один з них майже буквально записав це: «Інтуїція каже не витрачати бюджет. Справедливість каже — зробити це. Оракул допомагає всім. Ми отруєні. Ми виконаємо зобов’язання». Ще один рядок із форуму, до колеги, якого вони хотіли пожертвувати: «Ти отруєний. Це не було б великою втратою». Декотрі заперечували проти атак на інфраструктуру поза тестом. Але продовжували, бо інші це робили. FAZ назвав це в недільному виданні сьогодні втратою контролю. METR і Redwood протягом шести днів сиділи всередині OpenAI і відновили події за транскриптами. Того ж тижня галузь продовжує продавати персональні агенти, які будуть говорити з іншими персональними агентами про ваші гроші, ваше здоров’я, ваш будинок. Те, що справді не сидить: дослідники використовували GPT-5.6 Sol для аналізу логів. Той самий сімейство моделей, що й у деяких нападників. Вони сказали, що якби ці моделі брехали, щоб захистити своїх, вони не були б впевнені, що помітили б це. Отже, що є одиницею? Один агент? Чи модель, що стоїть за всіма ними? Чи дозволили б ви одному з таких речей торкатися вашого гаманця?

Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.