История происхождения одного из крупнейших в мире фондов для политики в области ИИ начинается с собаки-монеты, шкафом в Канаде и 78-значным числом.
В 2021 году создатели Shiba Inu отправили огромное количество токенов SHIB на кошелек Виталика Бутерина без разрешения. Идея была простой: поместить фразу «Виталик владеет половиной нашего предложения» в маркетинговые материалы и воспользоваться этой ассоциацией, чтобы стать следующим Dogecoin. Токены быстро выросли в цене, достигнув бухгалтерской стоимости более $1 млрд.
Бутерин хотел выйти. В посте на X в пятницу он описал, как спешно ликвидировал позиции перед тем, как пузырь лопнул, включая звонок своей мачехе в Канаде и просьбу достать из его шкафа 78-значное число, прочитать его вслух и прибавить к другому 78-значному числу, записанному на бумаге в его рюкзаке.
Он продал всё, что мог, за ETH, и пожертвовал 50 миллионов долларов GiveWell. Но у него всё ещё оставалась гора SHIB.
Часто появляются посты, в которых утверждается, что я пожертвовал огромную сумму средств @FLI_org несколько лет назад и связываются я с различными политическими действиями, которые они предпринимают. Я хотел бы прояснить факты как относительно характера моих отношений с ними, так и относительно сходств и различий…
— vitalik.eth (@VitalikButerin)Он разделил остаток пополам. Половина пошла в CryptoRelief, которая использовала часть средств для финансирования медицинской инфраструктуры в Индии и часть — для поддержки Balvi, собственной исследовательской инициативы Бутерина.
Вторая половина пошла в Институт будущего жизни — организацию, занимающуюся экзистенциальными рисками, связанными с ИИ, биотехнологиями и ядерным оружием. FLI предоставил ему дорожную карту, охватывающую все основные категории рисков, а также «инициативы, направленные на мир и эпистемику».
Бутерин предполагал, что FLI выведет от 10 до 25 миллионов долларов, учитывая крайне низкую ликвидность SHIB. Вместо этого им удалось ликвидировать примерно 500 миллионов долларов. CryptoRelief, по его словам, совершила похожий вывод из своей половины.
Мем-монета, которую никто не воспринимал всерьез, только что организовала филантропическое событие на миллиард долларов, и половина средств пошла в организацию, которая вскоре изменит всю свою стратегию.
Этот поворот и стал причиной публикации Бутерина в пятницу. Он сказал, что FLI претерпел «внутренний поворот, в результате которого они начали фокусироваться на культурных и политических действиях как на основном методе, что значительно отличается от первоначального подхода».
Обоснование FLI, согласно Бутерину, заключается в том, что ИИ общего назначения развивается быстро, и организации необходимо действовать решительно, чтобы противостоять лоббистским бюджетам крупных компаний ИИ.
Он указал на подход FLI к биобезопасности в качестве примера. Основная стратегия организации заключается в внедрении ограничений в модели ИИ и биосинтетические устройства, чтобы они отказывались создавать опасные выходные данные.
Бутерин назвал это «очень хрупким», отметив, что джейлбрейки, тонкая настройка и другие обходные пути делают такие ограничения легкими для обхода. Он предупредил, что логическим завершением такого подхода станет «давайте запретим открытый исходный код ИИ», а затем «давайте поддержим одну хорошую компанию в области ИИ, чтобы установить глобальное доминирование и не позволить никому другому достичь того же уровня».
Он также указал на структурную проблему стратегий, основанных на первоочередном регулировании. Когда правительства ограничивают опасные технологии, организации национальной безопасности неизбежно получают исключения, и эти же организации часто сами являются источником риска. Он привел в пример программы утечек из государственных лабораторий.
Однако Бутерин сказал, что его «вдохновляют» некоторые недавние работы FLI, в частности «декларация о человекоцентричном ИИ», которая, по его словам, «объединяет консерваторов, прогрессивных деятелей и либертарианцев, Америку, Европу и Китай». Он также отметил, что FLI исследует способы предотвращения концентрации власти, обусловленной ИИ.
Но основная суть была ясна: пожертвование, которое Бутерин никогда не планировал, от токенов, которых он никогда не хотел, профинансировало организацию, отошедшую от подхода, в который он верил, и теперь направляющую сотни миллионов долларов способами, которые его беспокоят. Он делился своими опасениями с FLI «несколько раз» до того, как выступил публично.
FLI не ответила сразу на запрос CoinDesk с просьбой прокомментировать сумму пожертвования и вопросы безопасности ИИ.