Історія походження одного з найбільших фінансових резервів у світі для політики ШІ починається з собаки, шафою в Канаді та 78-цифровим числом.
У 2021 році творці Shiba Inu відправили величезну кількість токенів SHIB на гаманець Віталіка Бутеріна, не попередивши його. Ідея була проста: включити «Віталік володіє половиною нашого пропозиції» у маркетингові матеріали і скористатися цією асоціацією, щоб стати наступним Dogecoin. Токени швидко зросли у вартості, досягнувши бухгалтерської вартості понад $1 мільярда.
Бутерін хотів вийти. У пості на X у п’ятницю він описав, як намагався ліквідизувати позиції до того, як бульбашка лопнула, включаючи дзвінок своїй мачухі в Канаді та прохання їй зайдти до його шафи, прочитати 78-значне число та додати його до іншого 78-значного числа, записаного з паперу в його рюкзаку.
Він продав, що міг, за ETH і пожертвував 50 мільйонів доларів GiveWell. Але він все ще мав гору SHIB.
Часто з’являються пости, в яких зазначається, що я кілька років тому пожертвував дуже велику суму коштів @FLI_org і зв’язую мене з різними політичними діями, які вони здійснюють. Я вважаю за потрібне прояснити суть моєї взаємодії з ними, а також подібності та відмінності…
— vitalik.eth (@VitalikButerin)Він розділив залишок навпіл. Одну половину передав CryptoRelief, яка використала частину коштів для фінансування медичної інфраструктури в Індії та частину — для підтримки Balvi, власної дослідницької ініціативи Бутеріна.
Інша половина пішла до Інституту майбутнього життя — організації, що зосереджена на екзистенційних ризиках, пов’язаних з ШІ, біотехнологіями та ядерними зброєю. FLI надав йому дорожню карту, що охоплює всі основні категорії ризиків, а також «ініціативи на користь миру та епістеміки».
Бутерін очікував, що FLI виведе від 10 до 25 мільйонів доларів, враховуючи настільки тонку ліквідність SHIB. Натомість їм вдалося ліквідувати приблизно 500 мільйонів доларів. CryptoRelief, сказав він, здійснила подібний вихід зі своєї половини.
Мем-монета, яку ніхто не сприймав серйозно, щойно створила філантропічну подію на мільярд доларів, і половина з них пішла організації, яка мала змінити всю свою стратегію.
Цей поворот є причиною, чому Бутерін опублікував у п’ятницю. Він сказав, що FLI зазнав «внутрішнього повороту, під час якого вони почали зосереджуватися на культурних і політичних діях як на основному методі, що дуже відрізняється від початкового підходу».
Обґрунтування FLI, за словами Бутеріна, полягає в тому, що ШІ загального призначення швидко розвивається, і організації потрібно діяти агресивно, щоб протистояти лобістським бюджетам великих компаній ШІ.
Він зазначив підхід FLI до біобезпеки як приклад. Основною стратегією організації було вбудовування обмежень у моделі ШІ та біосинтетичні пристрої, щоб вони відмовлялися створювати небезпечні вихідні дані.
Бутерін назвав це «дуже хрупким», зазначивши, що jailbreaks, доналаштування та інші обхідні шляхи роблять такі обмеження легкими для обходу. Він попередив, що логічним завершенням такого підходу є «давайте заборонимо відкрите вихідне код AI» і потім «давайте підтримаємо одну добру компанію з AI, щоб встановити глобальне домінування, і не дозволимо нікому іншому досягти того ж рівня».
Він також звернув увагу на структурну проблему стратегій, що ґрунтуються на регулюванні перш за все. Коли уряди обмежують небезпечні технології, національні організації безпеки неодмінно отримують винятки, і саме ці організації часто є джерелом самого ризику. Він навів приклади програм витоків з урядових лабораторій.
Однак Бутерін сказав, що його «надихає» деяка остання робота FLI, зокрема «декларація на користь людини», яку, за його словами, «об’єднує консерваторів, прогресивів і лібертаріанців — Америку, Європу та Китай». Він також зазначив, що FLI досліджує способи уникнення концентрації влади через ШІ.
Але основна думка була ясна. Донат, якого Бутерін ніколи не планував, від токенів, яких він ніколи не хотів, фінансував організацію, що змінила підхід, який він вважав правильним, і зараз витрачає сотні мільйонів доларів способами, які роблять його незручним. Він ділився своїми занепокоєннями з FLI «кілька разів» до того, як це стало публічним.
FLI не відповів негайно на запит CoinDesk з приводу наданої суми та занепокоєнь щодо безпеки ШІ.