Даріо Амодеї має повідомлення для інших керівників ІЧ, які вважають, що публіці потрібна лише краща PR: проблема не в повідомленні, а в продукті.
Генеральний директор Anthropic опублікував довгий есе під назвою «Політика щодо експоненційного розвитку ШІ», яке безпосередньо стикається зі зростаючим негативним ставленням до штучного інтелекту. Замість того щоб винити негативну медіа-покриття або песимістичний підхід лідерів галузі, Амодеї стверджує, що громадська тривога щодо ШІ ґрунтується на закономірних, добре задокументованих ризиках. Його діагноз: галузь ШІ стикається з кризою довіри, а не з кризою комунікації.
Справжні ризики, справжній страх
Есе Амодеї визначає чотири конкретні категорії ризиків, які, на його думку, вимагають серйозної уваги: кібербезпека, розробка біологічної зброї, втрата людського контролю над системами ШІ та перспектива повністю автоматизованого дослідження та розробки.
Амодеї суттєво називає це міркування зворотним. Люди хвилюються не тому, що лідери ШІ попереджають. Вони хвилюються тому, що попередження обґрунтовані.
Щоб підтримати цю позицію, він пропонує обов’язкові оцінки з боку третіх осіб для моделей, навчених за допомогою значних обчислювальних ресурсів. Тестування охопить ті самі чотири категорії ризиків, створюючи незалежний рівень верифікації між лабораторіями ШІ та громадськістю.
200 мільйонів доларів США та політичний план
Anthropic інвестує гроші в слова Амодеї. Компанія зарезервувала 200 мільйонів доларів США на дослідження, спрямовані на розуміння ширшого впливу ШІ на суспільство.
Інвестиція фінансуватиме роботу над питаннями, які виходять далеко за межі технічної безпеки. Амодеї відкрито закликав до програм страхування заробітної плати та цільових податкових заходів, спрямованих на згладжування ринкових збурень праці, які, як очікується, викличе автоматизація на основі ШІ.
У ексклюзивному інтерв’ю з ABC News, запланованому з нагоди публікації есе, Амодеї висловив додаткові політичні пропозиції. Серед найбільш помітних: надання урядовим агентствам повноважень призупиняти розгортання ШІ, які вважаються небезпечними.
Його улюблена рамка базується на існуючих регуляторних моделях. Аналогія з FAA є свідомою. Регулювання безпеки авіаперевезень не знищило авіаційну галузь. Воно зробило авіаперельоти найбезпечнішим видом масових перевезень на Землі.