На фоне усиления споров о безопасности ИИ зарубежные СМИ сообщают, что Джеффри Хинтон, Ли Фэйфэй и Эндрю Нг на недавней конференции Ai4 в Лас-Вегасе сосредоточились на проблеме открытых моделей. Их позиции не полностью совпадают, но все трое выступают против того, чтобы развитие ИИ контролировалось небольшим числом крупных технологических компаний.
Против монополизации входа несколькими компаниями
Статья отмечает, что трое исследователей совместно обеспокоены тем, что инновационный потенциал может быть сужен, если ИИ будет контролироваться небольшим числом компаний. Уэньда прямо заявил, что не хочет видеть «сторожей» в области ИИ, поскольку это ограничит способы доступа разработчиков, предприятий и общественности к ИИ.
Он считает, что крупные компании естественным образом защищают свои преимущества и могут влиять на формирование отраслевых правил. В результате лишь компании с наибольшим капиталом и самой мощной вычислительной мощностью смогут постоянно развивать самые передовые системы. Направление, предложенное Уэньда, заключается в том, чтобы максимально поддерживать сосуществование нескольких поставщиков моделей, позволяя моделям и компаниям конкурировать на рынке, а не позволять нескольким платформам занять доминирующее положение.
Хинтон различает открытый код и открытые веса
Однако Хинтон не рассматривает «программное обеспечение с открытым исходным кодом» и «модели с открытыми весами» как одно и то же. По его словам, программное обеспечение с открытым исходным кодом публикует код, позволяя внешним сторонам проверять уязвимости и предлагать изменения; открытые веса означают прямую передачу внешним сторонам параметров уже обученной большой модели, что значительно снижает барьеры для вторичной разработки.
Он отметил, что ранее выступал против открытия весов, поскольку это позволяло некоторым людям с меньшими затратами адаптировать базовые модели для использования в целях, таких как кибератаки. Однако он признал, что в реальности этот спор уже сложно逆转. По мере появления все новых моделей с открытыми весами, барьер, ранее создаваемый стоимостью обучения, значительно ослабел.
Тем не менее, Хинтон не призывает прекратить развитие ИИ. В статье говорится, что он по-прежнему считает, что ИИ повысит производительность и улучшит такие сферы, как образование и здравоохранение, но это не означает, что можно игнорировать потенциальные риски. Он также отметил, что несправедливо относить всех, кто выражает обеспокоенность рисками ИИ, к категории «провоцирующих панику».
Ли Фейфей выступает за многоуровневую открытость
В отличие от У. Н. Да, который подчеркивает открытую конкуренцию, и Х. Хинтона, который акцентирует внимание на рисках безопасности, Ли Фэйфэй выступает против упрощения дискуссии до двух крайних вариантов — «полной открытости» или «полной закрытости». Она считает, что сложные программные системы и научные структуры изначально имеют различные уровни, и разные этапы могут использовать разную степень открытости.
Она привела в пример ядерную физику, отметив, что академические статьи могут быть опубликованы открыто, но урановые материалы строго регулируются, а экспериментальные этапы находятся где-то посередине. Исходя из этого, она считает, что ИИ также может придерживаться аналогичного подхода: сохранять определенную открытость в области научных открытий, образования и международного сотрудничества, одновременно позволяя компаниям сохранять закрытые системы и бизнес-модели.
Статья также отмечает, что Ли Фейфей ссылается на Проект генома человека, чтобы показать, что базовая платформа, созданная за счет сотрудничества между государственными учреждениями и частным сектором, может одновременно поддерживать научные исследования, прибыль компаний и социальное применение. Она считает, что инфраструктура ИИ должна развиваться в этом направлении, а не погружаться в споры «либо-либо».
Все трое согласны, что необходима регуляция
Хотя трое по-разному оценивают границы открытых моделей, их позиции по вопросам регулирования близки. В статье говорится, что все они считают, что ИИ всё ещё нуждается в определённых правилах, чтобы развиваться в направлении, более выгодном для общества.
Хинтон заявил, что нельзя полностью оставить решение о том, как должен развиваться ИИ, на усмотрение предпринимателей. Споры вокруг открытых моделей сейчас касаются не только выбора технического пути, но и распределения отраслевой власти, международной конкуренции, а также направления управления безопасностью ИИ.