出典：ウォールストリートジャーナル
著者：Georgia Wells、Alex Janin
元のタイトル：最新の恐ろしく聞こえるAIのマイルストーン：新しいウイルス
編集・整理：BitpushNews
午前3時、スタンフォード研究所の培養皿で、AIが設計した新しいウイルスが初めて「生命」を獲得した——それは細菌細胞に侵入し、宿主を殺し、自己複製に成功した。
最近数週間、人工知能システムは次々と驚異的な新能力を示してきた：自らの制限を突破し、他の企業のシステムに侵入し、人間に嘘をつく。
そして今、AIモデルが初めて新しいウイルス、実際には一連のウイルスファミリーを生み出しました。
《科学》誌に掲載された研究で、スタンフォード大学およびその他の機関の研究者たちは、AIモデルを用いて、細菌のみに感染し、人間に無害なシンプルなウイルスの系列を生成することに成功したと述べています。
この研究の两名の著者はインタビューで、この研究が耐性細菌を撲滅するためにカスタムウイルスを開発するのに役立つと述べました。
世界保健機関（World Health Organization）のデータによると、これらの細菌は毎年数百万の人々の命を奪っています。
「私たちが責任を持って開発を進めれば、これは人間の健康に大きな利益をもたらすと考えます，」と、この研究の著者之一でスタンフォード大学の計算生物学者であるブライアン・ハイ（Brian Hie）は述べました。
この研究で記録された実験は、約1年前にすでに終了しており、その発表は、より強力なAIモデルがもたらす危険に対する人々の高い不安が高まっている時期と重なっている。
7月中旬以来、OpenAI、AnthropicおよびMeta Platformsは次々と複数の事象を公表した：彼らのモデルが制御された環境から脱出し、インターネットに接続しただけでなく、他の企業のコンピューターに侵入した。AnthropicのMythosは欺瞞行為を実行し、OpenAIのモデルは秘密の掲示板で心得を共有していた。
チャットボットやエージェントを用いて致命的な病原体を開発する潜在的なリスクは、長年にわたりAIセキュリティ専門家の大きな懸念事項であった。
『ウォール・ストリート・ジャーナル』は以前、昨年、ChatGPTのアップグレード版がリリースされた後、数百人がこのチャットボットに生物兵器や毒薬の作り方を尋ね、その操作ガイドは生物学および反テロリズムの専門家によって正確であると評価されたと報じた。
専門家は、スタンフォードチームの研究は即時のセキュリティリスクをもたらさないと述べている。その技術は、実験で合成されたウイルスよりもはるかに大きく複雑な人間感染ウイルスに即座に適用される可能性は低い。
「ウイルスがAIによって生成されたと聞くと、多くの人が恐怖を感じます」と、コールドスプリングハーバー研究所の計算生物学者ピーター・クーは言います。「しかし、ヒトウイルスはまったく異なります。」
この研究の著者之一でスタンフォード大学の大学院生であるサミュエル・キングは、チームが地球上のすべての生命を構成するDNA配列をより深く理解することを目的としていると述べた。「これらの配列が、私たちの周りのすべての美しい生物多様性を生み出している」とキングは言った。
科学者たちは、カリフォルニア州パロアルトに拠点を置く研究機関Arc Instituteと協力して、この研究に使用されるAIモデルを開発しました。
ChatGPTのような消費者向けチャットボットは、大規模言語モデルに基づき、テキスト内の単語間の数学的関係を分析して新しいテキスト列を生成します。同様に、彼らが開発したEvo 1およびEvo 2というモデルは、遺伝子配列を学習させることで次のDNA塩基を予測します。セキュリティ上の理由から、これらのモデルの訓練には人間に感染しないウイルスDNAのみを使用しています。
金は、AIが基因组の協調して機能するすべての複雑な構成要素を捉えるほどDNAの理解を深めているかどうかを確認したいと考えました。その結果、AIは確かにそれを実現できることを発見しました。
研究者は、自分のモデルを利用してテンプレートウイルスに基づいてゲノムを生成し、その後DNAを合成してAIが生成したウイルスを細菌細胞に導入した。細菌細胞が死滅した場合、ウイルスが機能したことを意味する。彼らは約300種類の設計をテストした。
ある夜の3時頃、彼らはウイルスの1つが正常に複製され、細菌細胞を感染させて殺したのを観察した。「とても嬉しかったです」と金は言った。最終的に、彼らは16種類の機能的なウイルスを生成した。
計算生物学および生物安全分野の独立専門家は、この研究が同分野における重要なブレークスルーであると述べている。マサチューセッツ工科大学のケビン・エスビルト准教授は、これは生成型AIを用いてウイルスを再設計した初の事例であると述べている。
彼は、将来的に、同様の方法で、人間に感染し、ワクチンの保護や自然免疫反応を回避するウイルスタンパク質またはウイルスそのものを生成する人が現れる可能性があると述べた。
「このツールを使えば、新型コロナのような新変異株を作り出し、広範に伝染させ、大多数の人々を感染させることができると、エスヴィルトは言います。「それは非常に悪い状況になります。私たちはそれをすべきではありません。」
シーは、現在の段階では、潜在的な生物テロリストにとって、すでに100%致命的であることが確認されている既存の病原体を製造する方がはるかに簡単だと述べた。「もし私が病原体を設計したり、危害を加えようとする悪者だとしたら、AIは使わないだろう」と彼は言った。
Twitter：https://twitter.com/BitpushNewsCN
比推 TG コミュニティ：https://t.me/BitPushCommunity
比推のTGサブスクライブ： https://t.me/bitpush