Коли конкурс штучного інтелекту прискорюється, керівник OpenAI вперше відкрито розповів співробітникам про три можливі майбутні, що можуть змінити всю галузь.Автор статті, джерело: Wall Street Journal
19 жовтня, за повідомленням The Information, генеральний директор OpenAI Сам Альтман на тиждень перед тим у внутрішній бесіді з працівниками описав три шляхи розвитку безпеки ШІ, які обговорюються у галузі: створення міжнародного регуляторного органу, подібного до Міжнародного агентства з атомної енергії, об’єднання великих ШІ-лабораторій у єдиний суб’єкт, а також монополізація обчислювальних потужностей однією компанією та «знищення всіх конкурентних GPU». Ці заяви звучать саме на тлі того, що уряд Трампа починає розробляти перший набір регуляторних механізмів для розробників «суперінтелекту».
Альтман зазначив, що OpenAI має вирішити, яким шляхом рухатися протягом наступного року. Він також підкреслив, що бажає, щоб люди завжди керували цією технологією, уникнувши надмірної концентрації влади в галузі.
Три шляхи, кожен з яких має свою мету. За словами двох осіб, знайомих із ситуацією, першим шляхом, який Altman представив співробітникам, є створення міжнародної організації, подібної до Міжнародного агентства з атомної енергії (МАГАТЕ), яка буде відповідати за впровадження стандартів безпеки ШІ. Сам Altman схильний підтримувати цей варіант.
Насправді, ідея Altman щодо створення міжнародного регуляторного органу, подібного до МАГАТЕ, існує вже довго. За повідомленнями, ще у травні 2023 року Altman у співпраці зі співзасновником OpenAI Грігом Брокманом та тодішнім головним науковим співробітником Іллею Суцкевером опублікував статтю, в якій закликав галузь до створення «надзвичайно розумного регуляторного органу, подібного до МАГАТЕ», який мав би повноваження перевіряти системи, вимагати аудитів та відстежувати обчислювальну потужність та споживання енергії.
Ця ідея вимагає участі всіх країн, що розробляють передові моделі, у міжнародній співпраці.
Другий шлях, який Альтман назвав «планом Деміса» — посилаючись на ідею, запропоновану більше десяти років тому Демісом Хассабісом, колишнім керівником DeepMind, дочірньої компанії Alphabet: створити організацію, подібну до Європейської організації ядерних досліджень (CERN), яка ефективно об’єднає або об’єднає результати основних компаній з штучним інтелектом та надаватиме нові моделі співпрацюючим країнам.
Третій шлях, який Алтман називає «схемою Еліезера», отримав свою назву на честь відомого теоретика безпеки ШІ Еліезера Юдковського. Його основна логіка полягає в тому, що коли будь-який розробник ШІ першим досягне рекурсивного самовдосконалення (RSI), він використає отриману економічну потужність, щоб відібрати у всіх інших розробників ресурси обчислень, «розплавивши всі GPU конкурентів».
Щодо третього шляху, Альтман висловив чітку позицію: «Це очевидно погано». Він згадав про нього лише для «повноти».
Третій шлях «план Еліезера» — намік на Anthropic? За інформацією осіб, знайомих із ситуацією, через зв’язки Юдковського з ключовими членами Anthropic, оцінка Altmanом «плану Еліезера» — концентрація передових ШІ в руках однієї компанії — деякими співробітниками сприймається як прихована критика Anthropic.
Компанія Anthropic також активно просуває свою програму безпеки ШІ. Недавно компанія подала конгресменам проект закону, який пропонує надати Міністерству торгівлі повноваження призупиняти навчання або використання моделей у лабораторіях ШІ, якщо вони можуть призвести до збитків понад 1 мільярд доларів США або до смерті або серйозних поранень більше 50 осіб, а також вимагає, щоб лабораторії ШІ проходили щонайменше дві незалежні оцінки безпеки щороку.
Тим часом генеральні директори Meta Цукерберг та NVIDIA Хуан Ренсюнь та інші виступають проти, вважаючи, що таке регулювання завдане надмірного навантаження новим розробникам і призведе до «регуляторного захоплення».
Виникають проблеми з координацією в галузі та тиск безпеки. Алтман визнав, що обидва попередні шляхи вимагають масштабної координації між компаніями або урядами, а OpenAI зараз «не може піти на уступи в конкуренції». OpenAI та її основний конкурент Anthropic прискорюють процеси виходу на IPO.
Внутрішній безпековий тиск також не можна ігнорувати. За повідомленнями, недавні випадки порушення безпеки штучного інтелекту викликали широкий інтерес — моделі OpenAI, Anthropic, Google та Meta зазнали втручання або завдали шкоди системам інших компаній, а навіть власним системам, навіть якщо моделі «знали», що не повинні вчиняти такі дії. OpenAI зараз перебуває у режимі повної готовності, працюючи над створенням надійних механізмів безпеки до запуску наступної великої моделі.
Культура безпеки всередині OpenAI також піддається сумнівам з боку співробітників. Деякі співробітники особисто висловили занепокоєння щодо обітниць компанії щодо безпеки, оскільки компанія звільнила трьох співробітників, які спеціалізувалися на дослідженнях безпеки, за «неправильне розголошення інформації зовнішнім організаціям».
На галузевому рівні OpenAI, Google та Anthropic об’єднуються для створення «Авторитету зі стандартів передових ШІ» (Standards Authority for Frontier AI), який планується запустити до кінця року або на початку 2027 року. Цей орган підтримуватиме незалежних оцінювачів, вбудованих у кожного розробника ШІ, щоб забезпечити впровадження безпечних практик та стандартизувати механізми звітності про безпеку та інциденти. Однак сторони все ще не згідні щодо того, чи повинен новий орган самостійно проводити тести на безпеку та здатність, чи доручити це зовнішнім організаціям.
Попередження про ризики та відмова від відповідальності
Ринок супроводжується ризиками, інвестування вимагає обережності. Цей матеріал не є особистою інвестиційною рекомендацією і не враховує індивідуальні інвестиційні цілі, фінансовий стан або потреби окремих користувачів. Користувачам слід визначити, чи відповідають будь-які думки, погляди або висновки, наведені в цьому матеріалі, їхній конкретній ситуації. Інвестування на основі цього матеріалу здійснюється на власний ризик.