Генеральний директор OpenAI запропонував три шляхи для безпечного розроблення суперштучного інтелекту

Марс Фінанс: генеральний директор OpenAI Оттман на минулому тижні представив співробітникам три сценарії безпечного розроблення супер-ІШ. Перший — створення глобальної регуляторної організації, подібної до Міжнародного агентства з атомної енергії, яка перевірятиме передові моделі та аудитуватиме заходи безпеки. За словами осіб, знайомих із ситуацією, Оттман схильний до цього напрямку. Другий — за зразком Європейської організації з ядерних досліджень (CERN), де великі лабораторії ІШ об’єднуються в одну організацію або спільно розробляють моделі через єдиний орган, а не продовжують гонку окремо. Третій — найбільш екстремальний, який він назвав «сценарієм Елізера»: одна компанія ІШ першою досягає рекурсивного самовдосконалення, а потім за допомогою переважної економічної сили контролює обчислювальну потужність, щоб інші розробники не могли наздогнати. Оттман описав цю ідею як «розплавлення GPU всіх інших компаній», одночасно підкресливши, що цей сценарій дуже поганий і використовується лише для повноти розгляду можливостей. Ідея «розплавлення GPU» походить від дослідника безпеки ІШ Елізера Юдковського, який у 2021 році запропонував думковий експеримент, в якому супер-ІШ створює самовідтворювані наномашини для розплавлення всіх GPU у світі, підкресливши, що це лише крайній приклад для ілюстрації необхідності втручання, а не пропозиція до реалізації. У 2023 році OpenAI вже пропонувала створити «АІ-версію МАГАТЕ», а керівник Google DeepMind Хассабіс також закликав до створення «АІ-версії CERN». Зараз OpenAI, Google та Anthropic планують створити об’єднану організацію з розробки стандартів безпеки до кінця цього року або на початку наступного, але мають розбіжності щодо визначення відповідальності за тести безпеки моделей. Оттман хоче встановити обмеження швидкості розробки ІШ, одночасно підкреслюючи, що OpenAI зараз не може втрачати конкурентну перевагу перед суперниками.