MetaEra: «Ай-хайп-лето» скрывает маркетинг и недобросовестные практики

ME AI Сообщения: В последние месяцы ажиотаж вокруг ИИ только усиливался. В конце апреля Anthropic заявила, что её модель Claude Mythos превосходит большинство экспертов по кибербезопасности в обнаружении уязвимостей в программном обеспечении. Затем произошёл хакерский инцидент между OpenAI и Hugging Face, после чего Anthropic (с гордостью) и Meta (с неохотой) раскрыли аналогичные инциденты, связанные с их собственными моделями. Сразу после этого Anthropic заявила, что одна из её моделей достигла математического прорыва; вскоре OpenAI также объявила о собственном математическом прорыве. Недавно инженер Anthropic Джейкоб Коксон стал вирусным в интернете, объявив о своём уходе из компании и утверждая, что Anthropic и OpenAI «прямо направляются к самоусовершенствующемуся суперинтеллекту, ставя на карту наши жизни». Большинство этих событий были освещены СМИ почти с фанатичным энтузиазмом, часто повторяя корпоративные антропоморфические нарративы — повествования, призванные представить их программное обеспечение не просто как мощное, но и как вот-вот ставшее «искусственным общим интеллектом». Так в чём же заключается правда? Мы являемся свидетелями серии технологических прорывов, способных изменить цивилизацию, или же переживаем маркетинговую кампанию? Во всех этих событиях громкие заявления компаний (а в случае незаконных хакерских инцидентов — маскируемые под покаянные заявления) сопровождались интенсивным медиаосвещением. Когда же эксперты в соответствующих областях наконец находили время для анализа происходящего, часто выяснялось совершенно иное — однако эта альтернативная история получала значительно меньше внимания СМИ. Что касается этих «хакерских» инцидентов, эксперты по кибербезопасности отмечают, что проблема заключается скорее в халатности OpenAI и отсутствии базовых, хорошо отработанных практик безопасности, чем в так называемом «выходе модели из-под контроля» или «создании ИИ-агентами цивилизации». Что касается математических достижений, математики сначала были «шокированы» пресс-релизом OpenAI, в котором утверждалось, что её новейший чат-бот Astra решил задачу, «остававшуюся нерешённой как минимум десять лет и на которой не было достигнуто практически никакого прогресса». Однако вскоре они поняли, что эти результаты «не были такими новаторскими, как казалось изначально». После этого математики обвинили компанию в научном мошенничестве и плагиате, подчеркнув при этом, что Astra не достигла «глубокого интеллектуального прорыва». Всего через несколько недель OpenAI снова объявила о собственном математическом прорыве. Два дня назад профессор математики Института Куранта Нью-Йоркского университета Тристан Бакмастер опубликовал вызвавший шум заявление, намекнув, что OpenAI украли чужие исследования и некорректно указали авторство результатов. Утверждения о скором появлении опасного суперинтеллекта не основаны на надлежащих научных или инженерных практиках. Напротив, они происходят из идеологий трансгуманизма, евгеники и мечтаний о воображаемом будущем цифровом человечестве. Стоит задуматься: почему именно программирование и математика стали ключевыми областями применения крупных языковых моделей и связанных технологий? Они не только часто рассматриваются как вершина человеческих интеллектуальных достижений, но и связаны с задачами, ответы на которые можно проверить сразу после их формулировки. Первое свойство помогает продавцам ИИ утверждать: «мы создаём всевластные машины»; второе делает математические и программные задачи удобными для отладки и оптимизации систем, поскольку выводы системы (возможные последовательности слов или фрагменты компьютерного кода) можно напрямую оценить без необходимости платить за услуги «чисел». Мы поддерживаем этот призыв и отмечаем, что создаваемое технологическими компаниями ощущение скорости и срочности — это также стратегия обмана законодателей и общественности. К сожалению, эта стратегия иногда работает — например, в случае законопроекта сенатора Берни Сандерса, направленного на запрет разработки «искусственного суперинтеллекта». Хотя замысел этого предложения благороден, его направление ошибочно. Называя эти продукты «суперинтеллектом» или «вышедшими из-под контроля моделями», мы приписываем им агентность, а не компаниям, которые их создали. Такой нарратив одновременно представляет продукты компаний как «превосходящие человека» и помогает компаниям уклониться от ответственности за свои собственные действия. OpenAI создала вредоносное ПО и взломала другую компанию — это должно было быть предметом расследования; однако пресс-релизы, СМИ, медиа-персоны и законодатели представили это как «вышедшую из-под контроля модель», будто бы модель действовала самостоятельно. Исследователей следовало бы спрашивать: почему их компании систематически копируют работы учёных или используют данные клиентов для обучения моделей без согласия; однако общественное воображение было отвлечено в другую сторону — на опасения относительно воображаемого прихода суперинтеллекта. Индустрия ИИ даже намекает, что популярное и межпартийное движение против строительства центров обработки данных — это попытка отвлечь внимание от регулирования ужасающих «сверхчеловеческих» машин, которые эти компании создают. Согласно мнению индустрии ИИ, мы должны больше опасаться вымышленного божества-машины, чем климатической катастрофы, усугубляемой центрами обработки данных, проблемами астмы у жителей рядом с ними, растущими счетами за электричество для населения, которое их субсидирует, или водой, перенаправляемой для их охлаждения. Мы прекрасно понимаем: решения нельзя принимать на основе маркетинговых заявлений или под давлением компаний ради якобы повышения эффективности. И законодателям, и сообществам для принятия разумных решений необходимо время — чтобы выслушать независимых экспертов и поставить заявления компаний в конкретный контекст. Лучшим результатом этого «лета ажиотажа» может стать то, что законодатели и общественность научатся глубоко вздохнуть, сохранять скептицизм и распознавать суть подобных ажиотажей в будущем. Тимнит Гебру — исполнительный директор DAIR и автор книги «Глубокое непротивление: радикализация технологического идеалиста», которая скоро выйдет в печать. Книга уже доступна для предзаказа и выйдет 16 февраля. Эмили М. Бендер — профессор лингвистики в Вашингтонском университете и соавтор книги «The AI Con». (Источник: MLion)