Сам Альтман попереджає, що розвиток ШІ має сповільнитися, щоб вирішити ризики на передовій

Ключові інсайти:

• Попередження Сема Олтмана зміщує новини про ШІ на більш повільний розвиток і сильнішу безпеку.
• OpenAI підготovлює випадки безпеки перед тренуваннями, які, як очікується, підвищать можливості.
• Альтман попереджає про втрату людського контролю та надмірну владу ШІ, що концентрується в руках одного суб’єкта.

Новини про ШІ змістилися на безпеку передових розробок після того, як генеральний директор OpenAI Сем Альтман закликав до повільнішого, більш уважно моніторингового розвитку моделей. Він попередив, що людство може втратити контроль, якщо можливості розвиватимуться швидше, ніж системи вирівнювання та моніторингу.

Альтман також визначив сильний централизований контроль над потужним ШІ як окрему небезпеку. Його заявлення від 14 вересня підтримувало безперервний прогрес, хоча розробникам слід прийняти додаткові витрати на безпеку та повільніший розвиток.

Altman підтримав пропозицію генерального директора Anthropic Даріо Амодеї щодо поступового розвитку поки дослідники підсилюють захист безпеки.

Однак він пояснив, що регулювання не означає зупинки технологічного прогресу. Навпаки, лабораторії повинні приймати повільніший розвиток, коли перевірки безпеки вимагають більше часу. Ці заходи супроводжуються високими витратами, але Альтман описав ці витрати як необхідні.

Крім новин про ШІ, Алтман сказав, що конкуренція всередині США ніколи не повинна оправдовувати безроздумний розвиток. Він додав, що здібності моделей не повинні розвиватися далі за системи вирівнювання та моніторингу.

Прогрес прискорився, роблячи відповідальний розвиток ще більш необхідним для кожної передової лабораторії. Він сказав, що американські компанії повинні надати громадськості переконання, що вони розроблятимуть передові системи відповідально.

Раніше компанійські рамки переважно розглядали завершені моделі перед їхнім публічним розгортанням. До них належали Політики відповідального масштабування та Каркаси готовності, розроблені лабораторіями передових досягнень.

Альтман сказав, що поточні умови розробки вимагають нових інструментів та ранніх оцінок безпеки. Відповідно, OpenAI перенесла деякі роботи з безпеки вперед перед значним збільшенням можливостей.

OpenAI тепер формулює явні випадки безпеки перед вибраними запусками поглибленого навчання з підсиленням. Компанія застосовує їх, коли дослідники очікують, що навчальний запуск призведе до значного зростання здатностей.

OpenAI також продовжує проводити роботу з безпеки перед випуском завершених моделей. Цей підхід, отже, передбачає оцінки на обох етапах — розробки та розгортання.

Альтман сказав, що компанії повинні ділитися підходами та пропонувати власні процедури безпеки. Він підтримав загальні стандарти, що охоплюють неправильну збіжність моделей, моніторинг та безпеку.

Ці стандарти можуть допомогти лабораторіям оцінювати все більш досконалі системи. Він також підтримав залучення незалежних аудиторів як частини послідовної рамки для оцінки ризиків на передовому фронті.

Останнє заявлення про штучний інтелект закликало до негайних дій у галузі без очікування законодавства. Алтман сказав, що компаніям не потрібно отримувати виняток з антитрастового законодавства перед введенням заходів безпеки.

Він також підтримав федеральний каркас, що встановлює єдині вимоги для розробників передових технологій. Однак він надав урядам більшу роль у координації міжнародних правил безпеки.

Альтман сказав, що лабораторії спочатку повинні впровадити заходи захисту, які доступні всередині їхніх організацій. Потім уряди можуть підтримувати координацію між країнами для розробки передових моделей.

Його заявка не передбачала припинення досліджень у галузі ШІ або покращення їхніх можливостей. Натомість вона пропонувала продовження розвитку з посиленням контролю та обережним темпом.

Альтман описав два способи, як просунута розробка ШІ може призвести до серйозно шкідливих наслідків. По-перше, людство може втратити контроль, якщо можливості перевищать наявні заходи безпеки.

Друге, одна компанія, країна, лабораторія або окрема особа може отримати надмірний контроль над потужними системами. Така концентрація може дозволити одному учаснику нав’язати свій світогляд іншим.

Попередження поєднало технічний контроль і інституційний контроль в одній дискусії про безпеку. Алтман сказав, що OpenAI залишається приверженим забезпеченню того, щоб ШІ служив людству.

Згідно з останніми новинами про ШІ, генеральний директор OpenAI також підкреслив, що кожна лабораторія-лідер повинна виконувати цю відповідальність. В іншому випадку більш здатні системи можуть розвиватися без належного нагляду або спільних стандартів.

Пост Новини про ШІ: Сем Олтман стверджує, що прогрес у галузі ШІ має сповільнитися, оскільки ризики передових розробок прискорюються з’явився першим на The Coin Republic.