Источник: The Wall Street Journal
Авторы: Джорджия Уэллс, Алекс Жанен
Оригинальное название: Последняя пугающая веха в области ИИ: совершенно новый вирус
Сбор и подготовка: BitpushNews
В 3 часа ночи в чашке Петри в лаборатории Стэнфорда впервые «ожил» новый вирус, разработанный ИИ — он успешно проник в бактериальную клетку, убил хозяина и начал самовоспроизводиться.
В последние недели системы искусственного интеллекта неоднократно демонстрировали поразительные новые возможности: выход за пределы своих ограничений, проникновение в системы других компаний и обман людей.
А теперь ИИ-модель впервые создала совершенно новый вирус. Фактически — целое семейство вирусов.
В исследовании, опубликованном в журнале Science, исследователи из Стэнфордского университета и других учреждений заявили, что им удалось направить ИИ-модель на создание серии простых вирусов, которые инфицируют только бактерии и безвредны для людей.
Два автора исследования заявили в интервью, что это исследование способствует разработке настраиваемых вирусов для уничтожения устойчивых к лекарствам бактерий.
Согласно данным Всемирной организации здравоохранения, эти бактерии ежегодно приводят к смерти миллионов людей.
«Если мы будем разрабатывать это ответственно, я считаю, что это принесет огромную пользу для здоровья человека», — сказал Брайан Хи, вычислительный биолог Стэнфордского университета и один из авторов исследования.
Эксперимент, описанный в этом исследовании, завершился примерно год назад, и его публикация совпала с моментом повышенной тревоги по поводу опасностей, связанных с все более мощными ИИ-моделями.
С середины июля OpenAI, Anthropic и Meta Platforms последовательно раскрыли несколько инцидентов: их модели вышли за пределы контролируемой среды, подключились к интернету и взломали компьютеры других компаний; Mythos от Anthropic совершил обман, а модели OpenAI даже обменивались опытом на секретной доске объявлений.
Использование чат-ботов или агентов для разработки смертельно опасных патогенов долгое время вызывало серьезную озабоченность у экспертов по безопасности ИИ.
Ранее «Волл-стрит джорнал» сообщал, что в прошлом году после выпуска обновленной версии ChatGPT сотни людей задавали этому чат-боту вопросы о том, как создавать биологическое оружие и яды, и предоставленные им инструкции были признаны точными экспертами в области биологии и борьбы с терроризмом.
Эксперты заявили, что исследование команды Стэнфорда не представляет немедленной угрозы безопасности. Эта технология маловероятно будет немедленно применена к вирусам, инфицирующим людей, поскольку эти вирусы намного больше и сложнее, чем синтезированные в эксперименте.
«Многие испытывают страх, услышав, что вирус сгенерирован ИИ», — говорит Петер Ку, вычислительный биолог лаборатории Cold Spring Harbor. «Но человеческие вирусы совершенно иные».
Студент-аспирант Стэнфордского университета и один из авторов исследования Самуэль Кинг сказал, что команда стремится глубже понять последовательности ДНК, составляющие всю жизнь на Земле. «Именно эти последовательности создают всю прекрасную биологическую разнообразие вокруг нас», — сказал Кинг.
Ученые сотрудничали с исследовательским институтом Arc Institute в Пало-Альто, Калифорния, над разработкой ИИ-модели, использованной в этом исследовании.
Такие потребительские чат-боты, как ChatGPT, основанные на крупных языковых моделях, генерируют новые текстовые последовательности, анализируя математические отношения между словами в тексте. Аналогичным образом, их модели под названием Evo 1 и Evo 2 обучались на генетических последовательностях для прогнозирования следующего нуклеотида ДНК. Из соображений безопасности эти модели обучались исключительно на ДНК вирусов, не способных инфицировать человека.
Джин сказал, что они хотели проверить, насколько глубоко ИИ понимает ДНК, чтобы захватить все сложные компоненты генома, которые должны работать совместно. Оказалось, что ИИ действительно способен это сделать.
Исследователи использовали свою модель для генерации геномов на основе шаблонных вирусов, после чего синтезировали ДНК и ввели ИИ-сгенерированный вирус в бактериальные клетки. Если бактериальные клетки погибали, это означало, что вирус действовал. Они протестировали около 300 дизайнов.
Около 3 часов ночи они заметили, что один из вирусов успешно реплицировался и заразил, а затем убил бактериальную клетку. «Мы были очень рады», — сказал Ким. В конечном итоге они получили 16 функциональных вирусов.
Независимые эксперты в области вычислительной биологии и биобезопасности заявили, что это исследование представляет собой значительный прорыв в данной области. Доцент Массачусетского технологического института Кевин Эсвильт отметил, что это первый случай, когда генеративный ИИ был использован для повторного проектирования вируса.
Он сказал, что в будущем кто-то может использовать подобный метод для создания вирусных белков или самого вируса, способных заражать людей, уклоняясь от защиты вакцин или естественного иммунного ответа.
«Этот инструмент позволит людям создавать новые штаммы, подобные COVID-19, которые будут распространяться и заражать большинство людей», — говорит Эсвельт. «Это будет очень плохая ситуация. Мы не должны этого делать».
Си сказал, что на данный момент для потенциального биотеррориста гораздо проще произвести уже полностью подтвержденный смертельный патоген. «Если бы я был плохим парнем, пытающимся спроектировать патоген или создать вред, я бы не использовал ИИ», — сказал он.
Twitter：https://twitter.com/BitpushNewsCN
Телеграм-чат BitPush: https://t.me/BitPushCommunity
Подписка на BitPush в TG: https://t.me/bitpush