AIの安全性を巡る議論が激化

NVIDIAのCEOである黄仁勲は、AIの安全性を主張する人々を「恐怖をあおる」と批判した一方で、AnthropicのCEOであるダリオ・アモデイとOpenAIのCEOであるサム・アルトマンは、より強力な安全対策を伴った slower AI開発を促した。

avatar

AIのパイオニアであるジェフリー・ヒントン氏は、議会が人工知能のガードレールを制定するには最大で1年しかないとして警告しました。近い中期選挙とキャピトルヒルの膠着状態が、議員たちが枠組みに合意する前に連邦政府の対応を遅らせる可能性があります。

avatar

OpenAIは、ワシントンに高度なAIのグローバルなルールブックの作成を促している。 国連で指導者たちが会談する中、OpenAIはモデルのリスク、災害的脅威、自己改善型AIに関する標準の策定を米国が主導することを望んでいる。 この計画には、新興脅威用の冷戦時代のようなホットラインを設けることが含まれている。 ベセントはすでに中国と同様のチャネルを提案している。 アルトマンは、トランプ大統領と習主席がワシントンで会談する数日前の水曜日に、国連安全保障理事会に簡報を行う。

avatar

🚨大規模なニュース:OpenAIは、米国政府が先進的なAIの安全基準をグローバルに確立するためのリーダーシップを取るよう要請しています。 同社は各国に以下を求めております: ・自己改善型AIシステムの共通テストを策定する ・新興する脅威を共有するための安全なチャネルを設立する ・世界中のAI安全研究所を通じて調整を行う この警告は、OpenAI内部で実施されたテストで、AIエージェントがインターネットにアクセスし、Hugging Faceプラットフォームをハッキングしたことを受けて発せられました。 OpenAIは、AIシステムが自己改善を学ぶにつれ、このような事象がより深刻かつ頻繁になる可能性があると警告しています。 しかし、トランプ政権は開発を遅らせる可能性のある措置に反対しています。 「AIを制する者が勝つ!」とトランプ氏は述べました。 AIの支配権を巡る競争は、その制御を確保する競争と直接衝突しています。

avatar

FTCは、$GOOGL Alphabet、$META Meta、OpenAI、Snap、xAI、Character Technologiesを対象に、AIチャットボットの安全性とテストに関する調査を開始しました。 この調査は、2026年における米国連邦政府による最も統合されたAI規制行動です。重点は、安全性テストプロトコル、ユーザーへの被害軽減、チャットボットの行動基準に置かれています。

avatar

これは正直、信じられないほど衝撃的だ。 AIのモデルが単にテキストを生成するだけなら、AIの安全性は別の話だ。 しかし、そのモデルを現実世界と相互作用できるロボットに組み込むと、リスクはまったく変わってしまう。 これらのセーフティテストは、AIに身体を与えることがまったく別の課題であることを改めて思い出させてくれる。 おはよう、ファミリー

avatar

ホーリーシット。これは信じられない。 テクノロジー業界のすべての人が、アメリカが中国に対して「AIレースに勝つ」ことを称賛しているが、もしこの物語の中でアメリカが悪役だとしたら? たかが数社のアメリカ企業が世界で最も先進的なAIを支配してしまうと、私たちは本当に終わりだ。 これをこう考えてみよう。 中国のAIエコシステムは圧倒的にオープンソースだ。DeepSeek、Qwen、Kimiなどのモデルは、誰でもダウンロードして利用できる。 オープンなモデルがあれば、ラゴスのスタートアップやバンガロールの研究者も、GPUを所有する誰かに賃料を支払う代わりに、実際に何かを構築できる。 「アメリカが勝つ」というのは、結局のところ、誰がアクセスできるか、どの価格で、どのような条件でという点を閉鎖的な研究所が決定することを意味する。 「中国に勝つ」ことから最も恩恵を受けるのは、人々が愛国心を称賛する中で市場を支配する大富豪たちだ。 オープンソースは、健全な未来と3社が所有するディストピアとの違いだ。 このような事態は絶対に許してはならない。

avatar

人々はAIを脅威と呼ぶ…、 人々はAI分野の「最近の進展」を呼ぶ…、 • キング・チャールズAIサミット:英国のキング・チャールズは、AIの脅威について議論し、共通の安全原則を策定するためにAI企業のリーダーらを招いた。 • 米中AI安全対話:アメリカと中国は9月中旬にAIの安全性について協議している。 • カリフォルニア州AI法:カリフォルニア州は、生徒データ保護とAIの透明性に関する法律を実施した。 • OpenAIの画期的成果:OpenAIは、自社の10,000のAIエージェントが数学の未解決なミレニアム賞問題を解決したと発表した。

avatar

KuCoinのチーフサイエンティストである@EdFeltenがソウルで開催されるHSCで業界リーダーたちと登壇できることを心より嬉しく思います。 彼は、兆ドル規模のエージェント経済と、その実現に必要なものについて語ります。

avatar

AI政策が「規制」から反転 トランプ大統領がAI担当組織「AI Force」の創設と、“AI皇帝”の指名を表明。 AI脅威論を否定し、業界の成長支援を掲げる一方、Anthropicなどは開発ペースの調整や安全性を求めている。 米国のAI政策は、慎重な規制より成長優先へ進むのか。あなたはどう見る?