火星財經の報道によると、Anthropicの研究者Jacob Coxonは辞職を発表し、AI業界を離れる準備を進めている。過去3年間、彼はOpenAIおよびAnthropicで事前学習の研究に従事してきた。彼は、両社がAIを責任を持って推進していないと指摘し、自らの能力をさらに向上させる超知能の開発を競い合っている状況を「私たちの命を賭けている」と評した。Coxonは今年、後者がモデルの安全性をより重視すると考え、OpenAIからAnthropicへ移った。彼はAnthropicの安全対策は真剣であると認めつつ、各社がAGI（多様なタスクで人間を上回る汎用AI）の先駆けを目指し続ける限り、安全を犠牲にせざるを得ないと考えている。単一企業の自己規制では問題を解決できないという立場だ。彼は両社について、OpenAIの多くの内部関係者はこのリスクの大きさをまだ真正に理解していないと評し、Anthropicはリスクを認識している一方で、他社を信頼できないと考え、自らが先に実現しなければならないと判断していると述べた。Coxonは、一部のAI業界関係者は公に表明するよりもはるかに悲観的であり、AIがこの10年以内に人類を滅ぼす可能性すら懸念していると語った。彼自身の判断では、最も激進的なシナリオでは来年末までにAIが制御を失う可能性があり、このような決定は数社のエンジニアによる内部での判断に任せるべきではないと主張している。
Anthropicの研究者が辞任、2027年までにAIが制御を失う可能性を警告
MarsBit共有
概要
Anthropicの研究者であるジェイコブ・コクソンが退職し、AIと暗号通貨のニュース分野から離れることを発表しました。コクソンは3年間、OpenAIおよびAnthropicで事前学習研究に従事していました。彼は、両社がAI開発において安全性よりも速度を優先していると批判し、AGIへの急ぎすぎが2027年までに人間の制御を越えるシステムを生み出す可能性があると警告しました。業界のトレンドはAIの能力強化に注目が集まっていますが、コクソンは安全性が見過ごされていると主張しています。彼は、大手テクノロジー企業がより広範な監督を伴うべき意思決定を行っていると考えています。
出典:原文を表示
免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。
デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。