Виталик Бутерин заявил, что его предыдущее пожертвование Институту будущего жизни (FLI) не означает, что он согласен с текущей политической позицией группы по ИИ.
По его словам, крупные политические кампании по безопасности ИИ могут привести к авторитарным последствиям или глобальной реакции, если правительства и корпорации борются за контроль над технологией.
Бутерин уточняет связь с FLI
Сооснователь ethereum объяснил в подробном посте на X, что вовлекся в FLI после того, как создатели Shiba Inu (SHIB) отправили ему половину своего предложения для продвижения мем-монеты. Вскоре после этого бумажная стоимость токенов резко выросла, даже превысив $1 млрд.
Бутерин сказал, что считал, что пузырь лопнет быстро, и поэтому поспешил обменять часть SHIB на ETH, пожертвовав средства нескольким благотворительным организациям. Он также передал половину оставшихся SHIB в CryptoRelief — медицинскую помощь, ориентированную на Индию — и другую половину — FLI.
Институт в конечном итоге вывел около 500 миллионов долларов из пожертвованных активов SHIB, что намного превысило ожидания Бутерина, учитывая низкий объём торгов этим токеном на тот момент. Разработчик утверждает, что решил инвестировать в FLI на основе их дорожной карты, которая охватывала экзистенциальные риски в области биобезопасности, ядерной сферы и ИИ, а также то, что он назвал их «инициативами в интересах мира и эпистемики».
Однако, по его словам, организация с тех пор сменила направление, сосредоточившись на культурных и политических действиях. Они обосновали этот сдвиг, заявив, что ситуация уже не такая, как в 2021 году, и распространение искусственного общего интеллекта требует изменений для более эффективного противодействия лоббистским фондам крупных компаний ИИ.
Озабоченности по поводу политических подходов
Бутерин настаивал, что сосредоточение на регуляторных или политических кампаниях для контроля над развитием ИИ может привести к хрупким системам или централизованным структурам власти.
«Моя тревога заключается в том, что масштабные скоординированные политические действия с крупными финансовыми потоками могут легко привести к непредвиденным последствиям, вызвать обратную реакцию и решать проблемы способом, который является как авторитарным, так и хрупким, даже если изначально это не предполагалось», — написал он.
32-летний эксперт заявил, что ограничение инструментов биосинтеза или моделей ИИ путем установки «ограничений», чтобы они отказывались создавать вредоносные вещи, — это слабое решение, которое легко можно обойти. Он добавил, что такие стратегии также могут привести к тому, что правительства запретят открытые системы или поддержат одну «утвержденную» компанию, чтобы она взяла на себя разработку ИИ.
«Подходы такого рода ОЧЕНЬ ЛЕГКО могут дать обратный эффект», — сказал Бутерин. «Они превращают остальной мир в вашего врага».
Его предложение представляет собой технологический подход, направленный на разработку защитных инструментов, помогающих обществу оставаться в безопасности в мире с мощными технологиями. Он отметил, что его последние решения по финансированию включают примерно 40 миллионов долларов на исследования для создания безопасного оборудования и систем, которые могут улучшить цифровую конфиденциальность и кибербезопасность.
Пост Vitalik Buterin дистанцируется от продвижения FLI в области безопасности ИИ появился первым на CryptoPotato.