Штучний інтелект стає кращим у виконанні більше, ніж відповіді на запитання. Системи ШІ зараз допомагають з програмуванням, дослідженнями, аналізом та іншими завданнями, які раніше виконували майже виключно люди. Це викликає нове питання: що відбудеться, коли ШІ почне відігравати більшу роль у створенні наступного покоління ШІ?
OpenAI зараз закликає до встановлення міжнародних стандартів, щоб допомогти відповісти на це питання. У пості від 21 вересня під назвою «Створення стандартів для наступного етапу ШІ» OpenAI запропонувала лідерство США у міжнародних зусиллях щодо розробки спільних технічних стандартів для передових ШІ. Компанія стверджує, що ці стандарти можуть допомогти країнам вимірювати можливості ШІ, оцінювати ризики, тестувати заходи безпеки та повідомляти про серйозні інциденти за допомогою більш послідовних методів.
Основні висновки
- OpenAI прагне до міжнародних стандартів для оцінки передових ШІ.
- Пропозиція охоплює можливості, ризики, заходи безпеки та звітність про інциденти.
- OpenAI каже, що повністю автономне рекурсивне самовдосконалення сьогодні не відбувається.
- Компанія хоче, щоб людський контроль залишався центральним, поки штучний інтелект стає більш здатним.
- Існуючі організації з безпеки ШІ можуть допомогти розробити загальні технічні стандарти.
Openai хоче загальну рамку для передових ШІ
Основна ідея досить проста. Необов’язково кожній країні розробляти зовсім різну методологію для оцінки небезпек, що виникають через просунуті ШІ. За даними OpenAI, стандартизація технічних підходів може надати країнам, дослідникам та спільноті ШІ ефективний спосіб оцінки все більш складних ШІ. Це стає ще більш актуальним, коли інциденти, пов’язані з ШІ, відбуваються через кордони.
Компанія не пропонує єдиного глобального закону про ШІ. Натомість вона закликає країни розробити сумісні стандарти, які уряди зможуть вирішити, як використовувати в межах своїх регуляторних систем. Ця різниця має велике значення, оскільки запропоновані стандарти негайно не стають вимогами для отримання ліцензії чи сертифікації для всіх технологій штучного інтелекту. Натомість уряди зберігають право визначати, як стандарти будуть застосовуватися в межах їх юрисдикцій.
Рекурсивне самовдосконалення є частиною розмови
Однією з найцікавіших частин пропозиції OpenAI є обговорення рекурсивного самовдосконалення (RSI). Цей концепт описує майбутнє, у якому системи ШІ зможуть все більше допомагати дослідникам у розробці більш здатних систем ШІ. Простими словами, ШІ може стати частиною процесу вдосконалення самого себе.
Це може потенційно прискорити дослідження штучного інтелекту. Але це також створює складне питання безпеки: який обсяг людського контролю має залишатися в циклі, якщо системи ШІ стануть сильно задіяними у розробці майбутніх моделей?
OpenAI стверджує, що повністю автономна рекурсивна самовдосконалення не відбувається сьогодні. Вона також вважає, що такий напрямок не слід розробляти, доки його не можна буде здійснити безпечно зі збереженням людського контролю. Це робить оцінку та тестування безпеки ще більш важливими, оскільки системи ШІ стають здатними виконувати все більш складні завдання досліджень і розробок.
Стандарти безпеки ШІ можуть стати ще важливішими
OpenAI також зазначає існуючі організації та мережі з безпеки ШІ по всьому світу як потенційні будівельні блоки для цього зусилля. Компанія конкретно згадує інститути безпеки ШІ та пов’язані організації в країнах, включаючи США, Великобританію, Канаду, Францію, Німеччину, Японію, Південну Корею, Сингапур, Індію, Кенію та Австралію.
Замість того щоб кожна країна розробляла власний повністю окремий технічний підхід, OpenAI хоче, щоб ці групи працювали над стандартами, які можуть доповнювати один одного. Пропозиція також закликає до участі розробників ШІ, дослідників, академіків та незалежних технічних експертів. OpenAI стверджує, що стандарти слід розробляти на основі технічних вимірювань, а не інтересів конкретної компанії чи країни.
Чому це важливо
Терміни варто відзначити. Компанії з області ШІ розробляють системи, які все частіше можуть виконувати багатокрокові завдання з меншою прямою участю людини, тоді як уряди все ще вирішують, як регулювати цю технологію.
Reuters повідомив, що OpenAI хоче, щоб Сполучені Штати взяли на себе провідну роль у розробці міжнародних технічних стандартів для просунутих ШІ. Більшим викликом може стати досягнення згоди країн і компаній щодо того, що саме повинні вимірювати ці стандарти та як їх застосовувати.
Наразі пропозиція OpenAI зосереджена на створенні загальної технічної основи до того, як передові ШІ стануть ще більш здатними. Коли ШІ почне виконувати більше роботи, пов’язаної з розробкою самого ШІ, спільний спосіб вимірювання здібностей, ризиків та заходів безпеки може стати все більш важливою частиною дискусії.
Ця стаття була спочатку опублікована як OpenAI закликає до глобальних стандартів безпеки ШІ, оскільки ШІ стає більш автономним на Crypto Breaking News – вашому надійному джерелі новин про криптовалюти, новин про bitcoin та оновлень блокчейну.