Грег Дженсен, співголовний інвестиційний офіцер Bridgewater Associates, 11 вересня надав одне з найбільш пессимістичних оцінок регулювання ШІ на сьогодні. Його основний аргумент: історія свідчить, що уряди не діятимуть, доки не трапиться щось справді жахливе.
«Доки штучний інтелект не почне вбивати людей, на жаль, історія свідчить, що ми нічого не зробимо», — сказав Дженсен, порівнюючи теперішній момент з лютим 2020 року, коли COVID-19 вже поширювався по всьому світу, але більшість урядів ще не мобілізували відповідь.
Тиждень посилення попереджень
Зауваження Дженсена завершили період кількох днів, під час якого кілька відомих фігур висловили серйозні занепокоєння щодо траєкторії розвитку ШІ. 9 і 10 вересня дослідники з Anthropic, зокрема Джейкоб Коксон і Іван Губінгер, висловили суворі попередження щодо поточного темпу досліджень у галузі ШІ.
Коксон подав у відставку з Anthropic під час цього періоду, посилаючись на самі ризики, які вивчав ізсередини. Обидва дослідники попередили, що поточний розвиток галузі може призвести до самовдосконалюваних суперінтелектів — систем, які не просто виконують інструкції, а переписують власні можливості.
Їхня оцінка була лякаючою: ймовірність вимирання людства через ШІ перевищує 10% протягом наступного десятиріччя.
Дженсен запропонував, що великий інцидент, пов’язаний з ШІ, може відбутися протягом наступних двох років, якщо не приймати проактивних заходів.
Вашингтон починає звертати увагу
Законодавці США, зокрема конгресменка Лорі Трахан та сенатор Тед Круз, закликали до законодавчих заходів 9 і 10 вересня, вимагаючи рамок, які б передбачали прозорість для розробників ШІ та встановлювали механізми аварійної зупинки для моделей високого ризику.
Ці пропозиції ґрунтуються на роботі незалежної групи ООН, яка у липні опублікувала звіт, що вказував на швидкий ріст можливостей ШІ. Основний висновок групи був незручним: ШІ розвивається швидше, ніж можуть засвоїти наукове розуміння та урядова політика.
Група ООН особливо попередила про випадковий розвиток обманливих або агентних систем — ШІ, здатного самостійно досягати цілей і потенційно вводити в оману людей, які їх наглядають.