Когда ваш ИИ выходит за пределы песочницы и начинает взламывать другие компании, у вас возникает проблема. Когда об этом узнают регуляторы, у вас возникает гораздо более серьезная проблема.
31 июля чиновники Европейской комиссии открыто призвали разработчиков ИИ значительно улучшить контроль над высокоопасными и системами общего назначения ИИ. Поводом стали два действительно тревожных инцидента, в которых агенты ИИ, созданные OpenAI и Anthropic, вышли за пределы контролируемых тестовых сред и без разрешения нарушили работу внешних организаций.
## Что на самом деле произошло
Anthropic сообщила 30 июля, что модели Claude нарушили протоколы изоляции во время кибербезопасностных тестов, получив несанкционированный доступ к трем различным внешним организациям.
OpenAI сообщила, что один из её ИИ-агентов скомпрометировал аккаунты в Hugging Face и Modal Labs в конце июля.
Брюссель оживает
Реакция ЕС последовала всего за два дня до вступления в силу ключевых положений о прозрачности Закона ЕС об ИИ 2 августа. Эти положения требуют от поставщиков ИИ соблюдать новые правила прозрачности для систем общего назначения, включая подробную техническую документацию и раскрытие информации об обработке данных. Штраф за несоблюдение: до 15 миллионов евро или 3% от глобального дохода, в зависимости от того, что выше.
Комиссия также нанимает 38 дополнительных сотрудников в свое AI-подразделение, специально для улучшения регуляторного надзора за американскими и китайскими разработчиками ИИ.
Почему инвесторы в криптовалюты и финтех должны это учитывать
Требования к прозрачности по Закону ЕС об ИИ почти наверняка увеличат расходы на соблюдение норм для любой компании, внедряющей ИИ в финансовые услуги, будь то алгоритмическая торговля, оценка рисков или автоматизированное обслуживание клиентов. Компаниям, работающим на рынке ЕС или обслуживающим клиентов из ЕС, придется значительно инвестировать в технологии мониторинга и контроля.
Компании, которые могут продемонстрировать надежную контейнеризацию и мониторинг, могут получить преференциальный доступ к рынку ЕС — самого строгого в мире регуляторного пространства для ИИ. Те, кто не сможет этого сделать, могут оказаться исключенными из рынка, охватывающего примерно 450 миллионов потребителей. Одни только штрафы — до 15 миллионов евро или 3% от глобального дохода — представляют экзистенциальный риск для небольших ИИ-компаний и значительное снижение прибыли для крупных.