Сегодня увидел новость — довольно интересно! Прочитав её, я подумал: а не станет ли одобрение ИИ строже, чем выход нового лекарства?
Раньше было так:
OpenAI: Ребята, новый модель пришла!
А теперь так:
OpenAI: Докладываю учителю, можно ли публиковать?
Белый дом: Подождите, ещё проверьте.
Самое абсурдное — это одобрение по одному клиенту за раз. Такой стиль выглядит не как выпуск продукта технологической компанией, а скорее как учитель раздаёт экзаменационные билеты: сначала отличникам в первых рядах, а остальным — ждите объявления.
Но, если подумать, это можно понять.
Современные крупные модели уже не просто умеют общаться — они могут писать код, находить уязвимости, автоматизировать задачи. Если кто-то возьмёт их в злые цели, один человек с ИИ может работать эффективнее целой команды хакеров.
Поэтому опасения правительства — не лишены смысла.
Однако у меня тоже есть тревога.
Если самые мощные ИИ будут доступны только немногим организациям и компаниям заранее, не превратится ли ИИ в некий «стратегический ресурс»?
Обычные люди будут видеть только «открытую версию», а настоящие, мощные версии останутся закрытыми в узком кругу. Тогда разница между людьми будет не в наличии ИИ, а в том — есть ли у вашего ИИ доступ в VIP-ложу.
Ещё интереснее то, что все постоянно обсуждают, не станет ли ИИ правителем человечества — а на деле первый, кто начал управлять ИИ, — это процедуры одобрения.
В будущем выход новой версии GPT, возможно, не будет объявляться через официальный канал OpenAI, а сначала будут смотреть на реакцию правительства.
Технологии развиваются всё быстрее, регулирование — всё строже.
Надеюсь, в итоге не получится так:
ИИ может писать код, рисовать, проводить исследования, править статьи, анализировать рынки…
Единственное, чего он не умеет — это самому подавать «Заявление на публикацию».