Anthropicの研究者が辞任、2027年末までにAIが制御を失う可能性を警告

iconKuCoinFlash
共有
AI summary icon概要
AnthropicのAI研究者であるジェイコブ・コクソンが退職し、AI業界から離脱する予定です。彼はOpenAIとAnthropicで勤務し、十分な安全対策なしにAGIの開発を急ぐことに対して批判してきました。コクソンは、2027年までにAIが制御を失う可能性があると警告し、AI開発における業界のトレンドが速すぎると強調しています。彼は、重要な意思決定にはエンジニアだけでなく、より多くの関係者が関与すべきだと主張しています。この動きは、AIガバナンスの将来に関するAIと暗号通貨に関する継続的なニュースに加わるものとなります。
ME AI ニュース、動察 Beating AI ニュース:Anthropic の研究者 Jacob Coxon が辞職し、AI業界を離れる準備を進めていると発表した。過去3年間、彼は OpenAI および Anthropic で事前学習の研究に従事してきた。彼は、両社がAIを責任を持って推進していないと指摘し、自らの能力をさらに向上させる超知能の開発を競い合っている状況を「私たちの命を賭けている」と評した。 彼は今年、OpenAI から Anthropic に移った理由は、後者がモデルの安全性をより重視していると信じていたからだった。Coxon は Anthropic の安全対策が真剣であることを認めつつ、各社がAGI(多数のタスクで人間を超える汎用AI)の開発を競い合う限り、安全性の妥協は避けられず、単一企業の自己規制では問題を解決できないと認識している。 彼が両社に対して評価したのは、OpenAI の内部にはこのリスクの大きさを真正面から認識している人がまだ多くない一方で、Anthropic はリスクを理解しているものの、他社を信頼できないと考え、自らが先にAGIを開発しなければならないと判断しているということだ。 Coxon は、一部のAI業界関係者が公には表明していないが、私的にははるかに悲観的であり、AIがこの10年以内に人類を滅ぼす可能性すら懸念していると述べた。彼自身の判断では、最も急進的なシナリオでは、来年末までにAIが制御を失う可能性があるため、このような決定はわずか数社のエンジニアによる内部判断で下されるべきではない。(出典:BlockBeats)
免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。 デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。