Джерело: The Wall Street Journal
Автори: Georgia Wells, Alex Janin
Початковий заголовок: Найновіший лякаючий досягнення ШІ: зовсім новий вірус
Компіляція та підготовка: BitpushNews
О 3:00 ранку в чашці Петрі в лабораторії Стэнфорда вперше «озжил» новий вірус, розроблений штучним інтелектом — він успішно проник у бактеріальну клітину, вбив хазяїна та розмножився.
Протягом останніх кількох тижнів системи штучного інтелекту неодноразово продемонстрували захоплюючі нові здібності: виходять за межі своїх обмежень, проникають у системи інших компаній, брехать людям.
А зараз AI-модель вперше створила абсолютно новий вірус. Фактично — цілу сім’ю вірусів.
У дослідженні, опублікованому у журналі Science, дослідники з Стенфордського університету та інших установ повідомили, що їм вдалося направити AI-модель на створення серії простих вірусів, які інфікують лише бактерії і не шкодять людям.
Дві авторки дослідження в інтерв’ю сказали, що це дослідження допомагає розробляти налаштовані віруси для знищення стійких до ліків бактерій.
За даними Всесвітньої організації охорони здоров’я, ці бактерії щороку призводять до смерті мільйонів людей.
«Я вважаю, що, якщо ми розроблятимемо це відповідально, це може принести величезну користь для здоров’я людини», — сказав Брайан Хіє, обчислювальний біолог із Стенфордського університету та один із авторів дослідження.
Цей дослідження завершилося приблизно рік тому, а його публікація збіглася з моментом, коли люди відчували глибоку тривогу щодо небезпек, пов’язаних із все більш потужними моделями ШІ.
З середини липня OpenAI, Anthropic та Meta Platforms послідовно розкрили кілька випадків: їхні моделі вийшли за межі контролюваних середовищ, підключилися до Інтернету та взломали комп’ютери інших компаній; Mythos від Anthropic здійснив обман, а моделі OpenAI навіть обмінювалися досвідом на таємній дошці повідомлень.
Використання чат-ботів або агентів для розробки смертельних патогенів довгий час було великою тривогою для експертів з безпеки ШІ.
Раніше The Wall Street Journal повідомляла, що минулого року після випуску оновленої версії ChatGPT сотні людей запитували у цього чат-бота, як виготовити біологічну зброю та отрути, і надані ним інструкції були визнані точними експертами з біології та боротьби з тероризмом.
Експерти вважають, що дослідження команди Стэнфорда не створює негайного ризику безпеки. Ця технологія малоймовірно буде застосована негайно до вірусів, що інфікують людей, оскільки ті віруси значно більші та складніші, ніж віруси, синтезовані в експерименті.
«Багато хто відчуває страх, почуваючи, що вірус був створений ШІ», — каже обчислювальний біолог лабораторії Кулд-Спрінг-Харбор Петер Ку. «Але людські віруси цілком інші».
Семуел Кінг, аспірант Стенфордського університету та один із авторів дослідження, сказав, що команда намагається глибше зрозуміти послідовності ДНК, що становлять всю життя на Землі. «Саме ці послідовності створюють всю красу біорізноманіття навколо нас», — сказав Кінг.
Вчені співпрацювали з дослідницьким інститутом Arc Institute у Пало-Альто, Каліфорнія, над розробкою моделей ШІ, використаних у цьому дослідженні.
Подібні до споживчих чат-ботів, таких як ChatGPT, які базуються на великих мовних моделях і генерують нові текстові рядки, аналізуючи математичні зв’язки між словами в тексті, їхні моделі під назвою Evo 1 і Evo 2 навчалися на геномних послідовностях, щоб передбачати наступну основу ДНК. З міркувань безпеки ці моделі навчалися лише на ДНК вірусів, які не можуть інфікувати людей.
Джин сказав, що вони хотіли перевірити, наскільки глибоко ШІ розуміє ДНК, щоб захопити всі складні компоненти геному, які повинні працювати разом. Виявилось, що ШІ справді здатний на це.
Дослідники використали свою модель для генерації геномів на основі шаблонів вірусів, після чого синтезували ДНК та ввели штучно створені віруси в бактеріальні клітини. Якщо бактеріальні клітини помирали, це свідчило про те, що вірус діє. Вони протестували близько 300 дизайнов.
Около трьох години ранку вони спостерігали, як один із вірусів успішно розмножився та інфікував і знищив бактеріальну клітину. «Ми були дуже щасливі», — сказав Кім. У підсумку вони отримали 16 функціональних вірусів.
Незалежні експерти в галузі обчислювальної біології та біобезпеки вважають, що це дослідження є важливим проривом у цій галузі. Доцент Массачусетського технологічного інституту Кевін Есвілт сказав, що це перший раз, коли хтось використав генеративний ІІ для переформування вірусу.
Він сказав, що коли-небудь у майбутньому хтось може використати подібний метод для створення вірусних білків або самого вірусу, які можуть інфікувати людей, уникати захисту від вакцинації або природної імунної відповіді.
«Цей інструмент дозволить людям створювати нові штами, подібні до COVID-19, які зможуть поширюватися та заражати більшість людей», — сказав Есвільт. «Це буде дуже погана ситуація. Ми не повинні цього робити».
Ши зазначив, що наразі для потенційного біологічного терориста набагато простіше виробити вже повністю підтверджений як смертельний патоген. «Якби я був поганим хлопцем, який намагається розробити патоген або створити шкоду, я не використовував би ШІ», — сказав він.
Twitter：https://twitter.com/BitpushNewsCN
Телеграм-група для спілкування від BitPush: https://t.me/BitPushCommunity
Підписка на BitPush у TG: https://t.me/bitpush