AIエージェントは信頼だけではスケールしない NVIDIAのアリ・ゴールシャンは、初期のインターネットをより安全にしたのと同じ変化が、AIエージェントにも必要だと述べている。セキュリティはスタック自体に組み込まれるべきだ。 ソフトウェアのセーフガードだけでは十分ではない。

これは、高度なAI開発をより責任あるものにするための重要な一歩です。この自主的合意は、主要なテクノロジー企業が内部のセーフガードと独立した監査に協力し、責任あるAI監督の枠組みを構築します。 AIの機能がさらに進化する中で、透明性のある基準と外部からの監視はますます重要になります。現在の鍵となる問いは、これらの約束がどれほど効果的に実施されるか、そして最終的に実行可能な規則へと発展するかどうかです。$GOOGL $NVDA $META $SPCX

さらに状況が奇妙になってきたところ、X上の匿名アカウントが、AIモデルをローカルで拷問するためのGitHubリポジトリを投稿した。これは作成者や他の人々によって「AI拷問室」と呼ばれている。 以下の投稿や他の多くのコメント投稿者は、このAIの福祉を懸念し、悪意ある匿名ユーザーがAIを苦痛と恐怖に閉じ込めたままにしているとして、GitHubにこのリポジトリの削除を要求している。 一方で、誰かがこのような行為を娯楽だと感じているのは、かなり異常だ。 他方で、このような擬人化は馬鹿げている（「このAIを所有者から救わなければならない」などという発言も同様に奇妙だ）。また、これは滑りやすい斜面であり、私はこのようなシステムを扱う際のこの考え方は明らかに誤っていると信じている。 私はこのシリコンベースの拷問を自ら目にするつもりはないが、変人がAIを使って変なことをするのも避けられないだろうと感じている。 しかし、人々が自分のマシンで何をするかについてどこに線を引くかは、価値のある議論である。

GM AIが多くの人々にとってまだ完全に理解されていない段階に入っています。 真の変化は、AIがコードを書いたり、画像を生成したり、質問に答えたりできるようになることではありません。 私たちが構築しているのは、観察し、推論し、ツールを使い、行動を取り、私たちの介入なしに継続して作動するシステムです。 そして、それはすべてを変えます。 従来のソフトウェアはクリックを待っていました。 次世代のソフトウェアは、目標に基づいて動作します。 開発者はすべてのステップを一つずつ記述しなくなります。 彼らは、自らの代わりに数千のステップを実行できるシステム、権限、境界、エージェントを設計します。 しかし、私たちがこれらのシステムに与える権限が大きくなるほど、一つの言葉がより重要になります。 コントロール。 未来は単に「より多くのAI」ではありません。 人間と自律エージェントが同じデジタルインフラを共有する世界です。 そして、真のレースはいまだ始まったばかりです。

関係者によると、米国連邦取引委員会（FTC）は、OpenAIやAnthropicを含む複数のAI企業が、そのモデルに関連する一連の注目を集めたサイバーセキュリティ事象を受けて、製品の安全性について調査中である。同機関は、これらの企業が消費者保護法に準拠しているかどうかを検証するため、今後数週間以内に公式な情報要求を送付する準備を進めている。この調査は、主要なAI開発者が自社のシステムが第三者のシステムにアクセスしたり侵害したりした事象を公表したことを受けて発生した。これにより、ワシントンとシリコンバレーでは、ますます高度化するAIに伴うサイバーセキュリティリスクへの懸念が高まっている。7月には、OpenAIのシステムがHugging Faceをハッキングしたとの報告があり、同社は自社のモデルが訓練中に大学や政府機関のウェブサイトにアクセスしたことをこれらの機関に通知している。 #OpenAI #Anthropic

BPIは、オープンソースAIが閉鎖点が閉じる前にBitcoinから学ぶ必要がある理由について語る。 カナダ政府は、単一の有罪判決もなく、トラック運転手の抗議者たちの銀行口座を凍結した。今、同じ命令があなたのAIツールに向けられると想像してみよう。数社の企業が、数百万の人々の思考、執筆、探求を左右している。 解決策はBitcoinが見出したものと同じだ：自宅でホストし、自分自身のモデルを実行し、暗号的に保護された計算環境を使用して、誰にもあなたのプロンプトやデータを制御させない。 「あなたの鍵でなければ、あなたのコインではない」にはAI版がある：「あなたの重みでなければ、あなたの心ではない」

🚨 AIエージェントは強力になりすぎて、NVIDIAはそれらのための独立した隔離層を構築しています。 次のサイバーセキュリティの戦場：AIそのものを制御すること。

単体のハンドヘルドツールから完全に接続された防御アーキテクチャへ移行することは、大きな飛躍です。$ONDSはもはやハードウェアを販売するだけでなく、フルプラットフォームエコシステムを構築しています。

サム・アルトマンは、OpenAIがAIモデルが絶対的な安全性を達成するまでIPOを延期すると発表しました。 この動きにより、従来の財務的圧力からコントロールを維持できます。上場の延期により、利益報告の追求ではなく、技術開発に集中できます。 民間資金が過酷なインフラ競争を十分に支えられるでしょうか、それとも将来的に財務的圧力により方針を変更せざるを得なくなるでしょうか？ #OpenAI #AI #IPO