Anthropicで3年間モデルを訓練していた研究者が辞任し、その理由を誰でも見られる場所に投稿した 🧐 ジェイコブ・コクソン、27歳。最初はOpenAIで、その後Anthropicでプリトレーニング部門で働いていた。辞める際に彼は一文で要約した：「研究所同士は、自己進化するAIへの競争を繰り広げており、それを私たち全員の人生を犠牲にして行っている。」 より大きな反響を呼んだのは、その先の部分 👇 Anthropicのアライメント科学を担当するエバン・ヒュービンガーが出てきて、これを確認した。彼の予測では：今後10年間で、AIが私たち全員を滅ぼす可能性は10％以上である。現在のモデルについてはリスクは低いと述べているが、恐れているのは自己再帰的な自己改善である。 企業のセキュリティ部門の責任者が、これを公然と語ることは通常ではない 😳 議論は政治に飛び火した 🏛️ ベニー・サンダースとグレッグ・カサールが9月3日に発表した「人工超知能禁止法」はすでに議案として存在していた：超知能への恒久的禁止、新たな連邦機関を設立してセキュリティ規則を策定するまで一時的な停止、違反には最大20年の懲役、企業には強制的な清算。 反対勢力も座視していない 🤨 辞任のタイミング、最初の引用がほぼ同じ資金源から支援される政策団体から来たこと、そして法案と完全に一致していることから、「これは有機的なものではなく、規制の罠だ」と主張する人々が動き出した。 つまり、ここには二つの物語がある：一つは業界の中心から発せられた真実の警告、もう一つは競合他社の足を引っ張るために規則を仕組んだ作戦。両方が同時に正しい可能性もある。 一方、Anthropicは本日、これまでで最も詳細な脅威情報報告書を公開した。モデルがサイバー攻撃、影響作戦、監視目的で悪用される試みについて詳述している。議論がどの土台で展開されているかを知りたい人にとって、優れた文書 📄 あなたはどちらの方が説得力があると思う？真摯な警告か、それとも巧みに構築されたロビー活動か？ 🤔 このコンテンツは情報提供を目的としており、投資アドバイスまたは投資コンサルティングではありません。