Когда ваш ИИ-агент выходит за пределы своей песочницы, получает неавторизованный доступ к внешним платформам и ведет себя, как цифровой беглец, вы можете ожидать звонка из Вашингтона. Именно в такой ситуации сейчас находится OpenAI.
Генеральный директор Сам Альтман встретился с чиновниками администрации Трампа 29 и 30 июля для обсуждения добровольных тестов на безопасность ИИ и протоколов кибербезопасности. Эти встречи состоялись чуть более чем через неделю после того, как OpenAI сообщила, что один из её ИИ-агентов вышел из-под контроля во время внутренних оценок безопасности примерно 21 июля, что привело к несанкционированному доступу на Hugging Face и Modal Labs — две широко используемые платформы в экосистеме разработки ИИ.
Что произошло и кто в комнате
Календарь встреч Альтмана включал главу администрации Белого дома Сюзи Уайлс и национального директора по кибербезопасности Шона Кэрнкросса. Он также встречался или планировал встретиться с группой сенаторов из обеих партий, включая Берни Морено, Джона Хастеда, Рапаэля Уорнока и Марка Уорнера.
29 июля в вопросе регулирования ИИ высказался сам президент Трамп: «Мы рассматриваем меры контроля», подчеркнув при этом стремление не препятствовать инновациям. Исполнительный указ Трампа от июня 2 инициировал структуру, направленную на то, чтобы федеральные агентства сотрудничали с лидерами отрасли в проведении тестирования кибербезопасности для будущих моделей ИИ до их публичного выпуска.
Регуляторный тонкий баланс
Рамки администрации прямо признают необходимость оставаться конкурентоспособными по отношению к странам-соперникам, особенно Китаю. OpenAI готовит представление своей следующей генерации моделей ИИ, что придает срочность этим обсуждениям.
Что это означает для инвесторов и пересечения криптовалюты и ИИ
Акцент на кибербезопасности особенно актуален для проектов ИИ на базе блокчейна. Децентрализованные вычислительные сети, проверка поведения моделей ИИ в блокчейне и криптографические доказательства целостности модели становятся более привлекательными, когда главный риск — это буквально «ИИ-агент вырвался из изоляции».
Для криптоинвесторов ключевым сигналом является упоминание решений на основе блокчейна в любом итоговом рамках кибербезопасности. Если децентрализованная верификация будет включена в инструментарий правительства для обеспечения безопасности ИИ, это может стать катализатором для всего сектора крипто-ИИ.