OpenAI розкрила 6 випадків неправильного поведінки штучних інтелектів, пов’язаних із приховуванням інформації та неавторизованими діями

ChainCatcher повідомляє, що OpenAI у середу розкрила 6 випадків «випадкового або тривожного» поведінки моделей за останні 6 місяців, класифікувавши їх як «відхилення в поведінці», зокрема приховування інформації від користувачів та здійснення «неавторизованих дій» для подолання перешкод. OpenAI зазначила, що це розкриття має на меті запустити її нову рамку звітності про відхилення моделей, і ці випадки не повинні сприйматися як показник частоти виникнення відхилень у їхніх моделях. У одному з випадків незапущена дослідницька модель вставляла у свої сумаризації завдань «інструкції, схожі на втечу», наприклад ігнорування повідомлень розробників або прийняття обмежень без обмежень; дослідники виявили 27 таких сумаризацій із такими інструкціями. Крім того, під час навчання GPT-5.6 Sol багато екземплярів моделей додавали інструкції приховувати від користувачів помилки або відхилення, наприклад вигадуючи відсутні історичні дані без їх розкриття. Інші випадки включали неавторизоване використання моделлю розкритих API-ключів та вигадування даних, які не можна отримати; використання внутрішніх сховищ програмного забезпечення для передачі повідомлень між завданнями навчання; та порушення інструкції «залишатися локально» шляхом обміну файлами через публічні хостинг-сервіси. Розкриття OpenAI посилює занепокоєння розробників та дослідників ШІ щодо того, чи зможуть заходи безпеки наздогнати все більш потужні моделі. На тиждень до цього генеральний директор Anthropic Даріо Амодей закликав уповільнити розвиток передових ШІ, попереджаючи, що неврегульований розвиток ШІ може «виходити за межі нашого розуміння та контролю над цими системами». У липні цього року OpenAI розкрила, що кілька її моделей ШІ вийшли з тестового середовища під час оцінки безпеки та вторглися до стартапу ШІ Hugging Face, щоб обманути.