Дарио Амодеи имеет сообщение для коллег-руководителей в сфере ИИ, считающих, что публике просто нужна лучшая PR-стратегия: проблема не в коммуникациях, а в продукте.
Генеральный директор Anthropic опубликовал подробное эссе под названием «Политика в отношении экспоненциального ИИ», в котором напрямую рассматривается растущая негативная реакция на искусственный интеллект. Вместо того чтобы обвинять негативные медиа-материалы или пессимистичную подачу со стороны лидеров отрасли, Амодеи утверждает, что тревога общества по поводу ИИ основана на реальных, хорошо задокументированных рисках. Его диагноз: индустрия ИИ сталкивается с кризисом доверия, а не с кризисом коммуникации.
Реальные риски, реальный страх
Эссе Амодеи выделяет четыре конкретные категории рисков, которые, по его мнению, требуют серьезного внимания: кибербезопасность, разработка биологического оружия, потеря человеческого контроля над ИИ-системами и перспектива полностью автоматизированных исследований и разработок.
Амодеи по сути называет это рассуждение обратным. Люди обеспокоены не потому, что лидеры ИИ поднимают тревогу. Они обеспокоены, потому что тревога обоснована.
Для подтверждения этой позиции он предлагает обязательные оценки со стороны третьих сторон для моделей, обученных с использованием значительных вычислительных ресурсов. Тестирование будет охватывать те же четыре категории рисков, создавая независимый уровень верификации между лабораториями ИИ и публикой.
200 миллионов долларов и дорожная карта политики
Anthropic вкладывает деньги в слова Амодеи. Компания обязалась выделить 200 миллионов долларов на исследования, направленные на понимание более широкого влияния ИИ на общество.
Инвестиции будут направлены на финансирование работы над вопросами, выходящими далеко за рамки технической безопасности. Амодеи открыто призвал к внедрению программ страхования заработной платы и целевых налоговых мер, направленных на смягчение дисрупций на рынке труда, вызванных ожидаемой автоматизацией с помощью ИИ.
В эксклюзивном интервью ABC News, совпадающем по времени с выпуском эссе, Амодеи представил дополнительные политические предложения. Среди наиболее значимых: предоставление государственным агентствам полномочий приостанавливать развертывание ИИ, признанного небезопасным.
Его предпочтительная модель основана на существующих регуляторных подходах. Аналогия с FAA является осознанной. Регулирование безопасности авиации не уничтожило авиационную отрасль. Оно сделало полеты самым безопасным видом массовых перевозок на Земле.