🚨 新設のゴールドイーグルセンター 🚨 トランプ政権がAI駆動のサイバ脅威対策機関「ゴールドイーグル」を発足。 目的は、脅威が悪用される前に、知見を共有し脆弱性を是正すること。 ゴールドイーグルは、連邦機関と民間企業の協力を調整する。 AIの脅威が高まる中、米国金融システムの整合性を守るための鍵となる動き。

DeepMindのCEO、フロンティアAIに審査官を要請 デミス・ハサビス（@demishassabis）は、ウォールストリートのFINRAをモデルに、フロンティアAIモデルのリリース前に審査する新たな標準化機関の設立を呼びかけている。政府が後押しし、業界が資金を提供し、独立して運営される。開発ラボは、リリースまで30日前にモデルを共有し、最初は任意だが、米国での展開には必須となる予定。 これは、AnthropicのMythosやOpenAIのSolに対する曖昧で専門家でない審査を批判する、臨時のレビューに代わるものとなる。しかし、自ら監督されるラボから資金を調達する自己規制機関には、明らかに緊張関係が生じる。また、ホワイトハウスのAIアドバイザーは最近、「AIのFDAは存在しない」と述べている。 ハサビスは、AGIは数年以内に実現すると述べている。規則は間に合うのか？

🌐 Google DeepMind CEOのデミス・ハサビス、米国が強力な国際AI監督機関を主導するよう呼びかけ 1. Google DeepMind CEOのデミス・ハサビスは、米国が主導する国際的なAI監督機関の設立を緊急に呼びかけています。 2. 彼は、人工一般知能（AGI）が10年以内に人間の認知能力に匹敵する前に、その安全性を確保するための時間的余裕が限られていると主張しています。 3. 提案されている規制機関は、過度に危険と判断されるフロンティアモデルの開発を停止する権限を持つことになります。 Bobbiの見解： ハサビスが米国主導の中央集権的機関を推進する動きは、AGI時代において企業の自主的ガバナンスが不十分であるという、AIパイオニアたちの間で広がる認識を反映しています。 Bobbiの『The AI Roundup』に申込んで、関連リンク、ニュースレター、ポッドキャストをご支援ください。

4. 🔥 プロテスト参加者が実際にOpenAI、Anthropic、Google DeepMindの施設に行列をなしている これは比喩ではない。人々はAI開発の停止を求めて、物理的に研究施設に集まっている。 正直、両方の立場が理解できる。 開発者たちは言う：「私たちが遅ければ、他の誰かが遅れない。」 プロテスト参加者は言う：「私たちが遅らなければ、制御できなくなるかもしれない。」 どちらも正しい。だからこそ、この問題は難しい。 しかし、多くの人が見落としているのは、本当のリスクはAIそのものではなく、AIを理解する者とそうでない者との間の格差だ。 この格差は毎日広がっている。そして、どちらの側もこの問題に取り組んでいない。 賛成？反対？👇 #AI #OpenAI #Anthropic #GoogleDeepMind #AIEthics #TechProtest

もしビジネスリスクの「標準的配慮」が、平均的なビジネスパーソンが取るリスクにのみ紐づけられ、その超過リスクがビジネス上の不適切行為と見なされるならば、どうだろうか？ もしそれがビジネス判断のルールだったなら、イーロン・マスクは決して生まれなかったはずだ。