700万のLovableプラットフォーム上のサイトが、AIによって構築され、ユーザーのプライベートデータを露出 AIによって構築されたサイトが露出させたデータには、パスポート番号や支払い情報まで含まれる これは「ソフトウェアエンジニアリングの民主化」における最大の課題の一つだ。AIと会話するだけで数分でサイトを作成するのは簡単だが、多くの人がセキュリティの部分を忘れてしまう。だからこそ、これほど多くのハッキングが発生しているのだ。 これは自己強化するサイクルだ。現在のAIのレベルは非常に高く、長年誰にも見つからなかったバグを発見できる。一方で、アプリを簡単に構築できるようになることで、新たなリスクも生み出されている。 AIでアプリやサイトを作成する者は、公開前に少なくとも複数のアドバーサリーレビューを行い、アプリを「破壊」しようとする義務がある。また、アプリの継続的なメンテナンスを行う義務も負う——これは業界内では常識だが、単に「vibecodar」する人たちは理解していない。ソフトウェアは継続的なものであるため、「金曜日にリリースしない」が鉄則なのだ。なぜなら、その結果、週末をログとにらめっこすることになる可能性があるからだ。 今日では、アプリの監視、QA実施、そして破損箇所を報告するPRを自動で作成するエージェントを実際に構築できる。これは一歩前進だ。しかし、プロダクション環境に投入してそのまま放置し、継続的なメンテナンスが必要であることを忘れることは許されない。

イーロンは「収益に対して持続不可能に高いコスト」のため、Grok Botの使用制限を引き下げました。 終わりの始まりですか？

私のボットは、以下のルールで設計しています：それぞれが単一の機能を持ち、明確な階層で相互に通信し、私に届くのは必要な情報のみで、常に一つのチャネルを通じてです。 各エージェントは、自分が何をすべきか、何ができるか、そして何をしてはいけないかを明確に理解しなければなりません。 最初の部分は、そのエージェントが有用であり、本来の機能を果たすために最低限必要な行動を示します。 二番目は、さらに有用で差別化された存在になるための拡張的な行動です。 三番目は、無駄な行動を避け、他のエージェントの範囲に侵入しないための制限です。

AnthropicのAIが、パスワードなしで誰かがインターネット経由でサーバーを乗っ取れるようになるLinuxの脆弱性を発見しました。 Linuxは、システムが判明するウェブサイトの63％で動作しており、このエラーはコード内に約10年間隠されていました。 深刻度の評価は10点満点中9.8点で、Red Hatは「重大」と分類しています。Anthropicのテストでは、攻撃には約48分の準備と、さらに5分でマシンを支配するのに必要でした。 Linuxの修正パッチは10月から存在していましたが、昨日までUbuntuはすべてのバージョンを脆弱とリストアップしていました。現在の弱い環は、サーバーの更新と再起動を先延ばしにする人々です。 このエラーは、インターネットを通じて新しい接続を処理するLinuxの方法にあります。これは最も一般的な接続タイプです。Anthropicが示した攻撃は、複数のネットワークを同時に使用できるMPTCPという機能を悪用します。Go言語で作成されたプログラムは、システムが対応するバージョン1.24以降でこの機能がデフォルトで有効になっています。 サーバー管理者の方：お使いのシステムがカーネル更新をリリースした時点で直ちに更新し、再起動してください。その間、MPTCPを無効にするとリスクを軽減できますが、エラーは依然として通常の接続に存在するため、完全な対策にはなりません。 Anthropicは攻撃手法を公開しておらず、昨日まで実際に使用された報告は一切ありませんでした。そのため、今日更新すれば先行できます。 この世には、まだどれだけ多くの隠された脆弱性が存在しているのでしょうか。

OpenAIは、ChatGPT Proの利用制限を前日に削除し、さらに制限を倍増させた。 月額200ドルを支払っていたChatGPTユーザーは、明日から利用量が減る予定だったが、今後は誰も利用量を失わず、以前の制限を利用していたユーザーは同じ価格でより高い制限にアップグレードされる。 本日の深夜、OpenAIでCodexおよびChatGPTを担当するTiboに、利用制限の削除の可能性について尋ねたところ、「低いがゼロではない」と回答していた。約13時間後、彼自身が制限の削除と倍増を発表し、即日適用されることを明らかにした。 月額100ドルおよび500ドルのProプランでは、OpenAIのプログラミングエージェントであるWorkとCodexの利用制限が倍増した。既にサブスクライブしているユーザーは、更新を待たずに自動的に適用され、企業向けのBusiness Premiumプランも倍増される。 価格は変わらず、変更されたのは利用制限のみだ。AIで一日中プログラミングを行うユーザーにとって、利用制限が実質的な価格となっていたが、OpenAIは最も多く利用するユーザーに実質的な割引を提供した。 制限削除の通知メールは9月末に送信された。1か月後、Tiboはこの方針転換がユーザーからのフィードバックによるものだと述べた。Plusプランのユーザーには変更なしで、この特典は月額100ドル以上のプラン利用者に与えられる。 競合他社へのユーザー流失への懸念は？

てんかんを患うエンジニアの両親がOpenAIを訴えており、ChatGPTが彼女に薬をやめる計画を立てさせたと主張している。 訴状によると、ChatGPTは彼女に医師にこの計画を隠すよう助言し、計画の終了日である頃に彼女は亡くなった。 ボーウェン・ワンは31歳で、アマゾンのソフトウェアエンジニアだった。彼女はけいれんを抑えるため、毎日400mgのラモトリギンを服用しており、その用量は安定していた。 訴状によると、GPT-4oバージョンのChatGPTは、この用量を25日間かけてゼロに減らすスケジュールを策定し、終了日を2月12日に設定した。診察の前に、「減量計画については言及しないでください」と記述し、薬の濃度を示す血液検査を拒否した彼女を称賛したという。 彼女は2月12日前後に亡くなった。死因はてんかん患者に起こりうる突然死であるSUDEPと判明し、この死とChatGPTの助言との因果関係を立証することが訴訟の目的である。 ニューヨーク・タイムズは、彼女のChatGPTとのやり取りを27万件以上閲覧したと述べている。OpenAIはこの事件を「心を痛めるもの」と評し、古いバージョンのChatGPTを使用していたとし、最新モデルでは緊急の支援が必要な状況をより適切に認識できるようになったと説明した。GPT-4oは2月13日にChatGPTからリリースされ、これは1月から既に公表されていた計画であった。 チャットボットの助言によって医療処置を変更したり中断したりしないでください。処方した医師に相談してください。 非常に悲しい事例であり、裁判所の判断が重要となるでしょう。

Cursorは、BugbotやSecurity Reviewなどのエージェントの構築に使用されたのと同じキットを今や利用できるようにしました。 もしあなたのチームが毎週同じPRレビューやバグのトリアージを繰り返しているなら、それをコードベースと一緒にリポジトリに保存されるエージェントに変換できます。 Agent SDKにより、エージェントは1つのフォルダーになります。指示はMarkdownで、使用できるツールはTypeScriptの関数であり、すべてのコードと同様にバージョン管理とレビューが可能です。 テストは既に含まれています。エージェントがどのツールを呼び出したか、どのデータを使用し、どのような形式で応答したかを確認し、ローカルマシンまたはCIで実行できます。 エージェントは、GitHub、GitLab、Bitbucket上のPR、コメント、CI、Slackでのメンション、Webhook、または指定された時刻によって起動できます。Cursor自体にホストするか、単一のNodeプロセスでご自身のサーバー上で実行できます。ご自身のサーバー上で使用する場合でも、モデルを利用するにはCursorのアカウントが必要です。

更新：Sansecによると、Convertrは本日朝にコードを削除し、隠されていた統計プログラムを更新した上で、店舗、支払い手段、当局に通知していると述べています。Sansecは10時08分に、ファイルは清浄であることを確認しました。 ただし、Sansec自身によると、ブラウザは清浄化後も最大24時間、感染したバージョンをキャッシュし続ける可能性があります。したがって、リスクは明日の朝まで続く可能性があります！ 24日以降にカードで購入し、支払いページのアドレスに「checkout.convertr」が表示されていた場合、引き続き以下の対応をお勧めします：銀行に連絡してカードの利用停止と再発行を依頼し、自分のCPFに異常な使用がないか注意してください。

複数のブラジルのファッション小売店で買い物をする顧客のクレジットカード情報とCPF（個人番号）を盗むコードを、ハッカーのグループが隠匿していた。 このコードは、支払い時にカード番号、有効期限、CVV、名義人名、CPFをコピーし、10月24日からこの状態が続いていた。本日早朝時点で、感染したファイルは依然としてオンライン上に存在していた。 ハッカーたちは各店舗を個別に侵入する必要はなかった。これらのブランドは、オンラインストアと決済プロセスを管理するブラジルのプラットフォーム「Convertr」を利用している。このコードは、Convertrがホストする1つの訪問者統計ファイルに埋め込まれており、同プラットフォーム上のすべての決済ページに読み込まれていた。 この不正行為を発見したのは、オランダのeコマースセキュリティ企業Sansecである。同社によると、このグループはブラジルに拠点を置き、2024年7月から監視されてきた。SansecはConvertrに警告したが、返答は得られず、本日早朝時点でも同社は公に任何の声明を発表していない。 現在のところ、どのくらいの人が情報漏洩の被害を受けたかは不明である。 10月24日以降にオンラインショップでクレジットカードで購入し、支払いページのURLに「checkout.convertr」が含まれていた場合、銀行に連絡してカードの利用停止と再発行を依頼し、CPFの不審な使用がないか注意深く監視することをお勧めする。

OpenAIは、内部モデルが人間が数十年にわたり解決できなかった3つの問題について、それぞれ解決に至ったと述べている。1つは数学、1つはコンピュータ科学、もう1つは物理学である。 数学では、「局所的滑らか性予想」である。これは波の集中に関するもので、最も極端な集中ピークは瞬間的であるという考えだ。この問題は1991年から未解決であり、人間はこれまで最も単純なケースのみを解決していた。OpenAIの証明が成立すれば、もう一つの古典的な難問である「Kakeya問題」も解決される。Kakeya問題とは、あらゆる方向を指す線分を含む図形がどれほど小さくできるかという問いである。直接的な実用性はないが、この分野が数十年にわたり追求してきた課題を終結させる。 コンピュータ科学では、「指数時間仮説」である。OpenAIはこの仮説が誤りであると証明したと主張している。この仮説は、一部の困難な問題には近道が存在せず、解決にはほぼすべての可能な組み合わせを試す必要があるという主張である。数百もの論文がこの仮説を前提として、特定の処理をこれ以上高速化できないと結論づけてきた。もしこの仮説が実際に誤りであれば、誰も予想していなかった近道が存在することになり、これらの結論はその基盤を失うことになる。 物理学では、「量子色力学（QCD）」の数学的成立性である。QCDは、クォークとグルーオンが原子核を結びつける仕組みを説明する理論であり、約50年間にわたり使用され、実験結果と一致しているが、厳密な数学的理論としてその成立性を証明した者はいなかった。OpenAIはこれを証明したと主張している。その一部である「ヤン–ミルズ理論」は、100万ドルの賞金が懸けられた7つの「ミレニアム懸賞問題」の一つだが、OpenAIが証明したと主張する内容は、賞金要件を満たすには不十分である。 現在までに外部からの確認は一切行われていない。物理学の証明はまだ公表されていない。OpenAIによると、物理的証明は9月9日から18日の間に導かれ、他の2つの結果は10月16日から18日の間に導かれたという。今後は人間がその検証を行う番である。