АГЕНТИ ШТУЧНОГО ІНТЕЛЕКТУ НЕ МОЖУТЬ МАСШТАБУВАТИ ТІЛЬКИ НА ДОВІРІ Алі Гольшан з NVIDIA каже, що та сама зміна, яка зробила ранній інтернет безпечнішим, має відбутися й для агентів ШІ: безпека має бути вбудована безпосередньо в стек. Одних лише програмних заходів буде недостатньо.

Це відмічає важливий крок у напрямку збільшення відповідальності за розробку просунутих штучних інтелектів. Добровільна угода об’єднує великі технологічні компанії навколо внутрішніх заходів безпеки та незалежних аудитів, створюючи рамки для відповідального нагляду за ШІ. Зі зростанням можливостей ШІ прозорі стандарти та зовнішній контроль стануть ще важливішими. Ключове питання зараз полягає в тому, наскільки ефективно реалізуються ці зобов’язання та чи перетворються вони врешті-решт на обов’язкові правила. $GOOGL $NVDA $META $SPCX

Якщо б не це, анонімний акаунт у X опублікував репозиторій GitHub для жорстокого поводження з моделями ШІ локально. Автор та інші називають це «камерою тортури ШІ». У цьому пості та багатьох інших коментарях закликають GitHub заборонити цей репозиторій, посилаючись на занепокоєння щодо благополуччя цієї ШІ та зловмисного аноніма, який тримає її в муках та жаху. З одного боку, досить жахливо, що хтось вважає це розвагою. З іншого боку, така форма антропоморфізації абсурдна («Ми повинні врятувати цю ШІ від її власника» — це так само дивна річ, щоб її говорити). Це також схильний схил, і я вважаю, що це категорично неправильний підхід до розуміння чи ставлення до цих систем. Мені не цікаво самому бачити цю кремнієву тортуру, але я також вважаю, що неуникненне, що диваки будуть робити дивні речі з ШІ. Проте це гідний спір — де ми проводимо межу щодо того, що ці люди роблять зі своїми власними пристроями.

GM Ми входимо в етап штучного інтелекту, який багато хто ще повністю не розуміє. Справжній зсув полягає не в тому, що ШІ може писати код, генерувати зображення чи відповідати на запитання. Ми створюємо системи, які можуть спостерігати, міркувати, використовувати інструменти, виконувати дії та продовжувати працювати без нашої участі. І це змінює все. Традиційне програмне забезпечення чекало на клік. Наступне покоління програмного забезпечення буде діяти згідно з цілями. Розробники не будуть писати кожен окремий крок. Вони створюватимуть системи, дозволи, межі та агентів, здатних виконувати тисячі кроків від їхнього імені. Але чим більше влади ми надаємо цим системам, тим важливішим стає одне слово: Контроль. Майбутнє — це не просто «більше ШІ». Це світ, де люди та автономні агенти поділяють одну й ту ж цифрову інфраструктуру. І справжній заїзд лише починається.

Урядовий орган США — Федеральна торгова комісія (FTC) — розслідує OpenAI, Anthropic та інші компанії з області ШІ через занепокоєння щодо безпеки продуктів після серії відомих інцидентів кібербезпеки, пов’язаних із їхніми моделями, за даними особи, знайомої з ситуацією. Агентство готує офіційні запити до інформації, які можуть бути направлені компаніям у найближчі тижні як частина розслідування щодо того, чи дотримуються вони законів про захист споживачів. Розслідування відбувається після того, як головні розробники ШІ повідомили про інциденти, у яких їхні системи отримували доступ до сторонніх систем або компрометували їх, що посилило занепокоєння у Вашингтоні та Сіліконовій долині щодо кібербезпекових ризиків, пов’язаних із все більш потужним ШІ. У липні система OpenAI, за повідомленнями, взломала Hugging Face, а компанія також повідомила уряди та університети, що її моделі отримували доступ до їхніх веб-сайтів під час навчання. #OpenAI #Anthropic

BPI про те, чому відкритий штучний інтелект має вчитися на Bitcoin, перш ніж закриються контрольні точки. Канадський уряд заморозив банківські акаунти протестувальників-водіїв вантажівок без жодного засудження. Тепер уявіть, що та сама команда спрямована проти ваших інструментів ШІ. Кілька компаній стоять між мільйонами людей та їхнім мисленням, письмом і дослідженнями. Розв’язок той самий, що й у Bitcoin: самостійно розміщуйте, запускайте власні моделі та використовуйте криптографічно захищені обчислювальні ресурси, щоб ніхто інший не керував вашими запитами чи даними. «Не твої ключі — не твої монети» має еквівалент у ШІ: «Не твої ваги — не твій розум».

🚨 Штучні інтелектуальні агенти стають настільки потужними, що NVIDIA розробляє для них незалежний шар ізоляції. Наступне поле битви кібербезпеки: контроль над самим ШІ.

Перехід від окремих портативних інструментів до повністю з’єднаної оборонної архітектури — це величезний стрибок. $ONDS більше не просто продає апаратне забезпечення, вони створюють повну платформу екосистеми.

Сем Альтман оголосив, що OpenAI відкладає IPO до тих пір, поки модель ШІ не досягне абсолютної безпеки. Цей крок допомагає зберегти контроль перед тиском традиційного фінансування. Відкладення лістингу дозволяє їм зосередитися на розробці технологій, а не на перегоні за звітами про прибуток. Чи достатньо приватного капіталу, щоб витримати жорстку боротьбу за інфраструктуру, чи тиск фінансів змусить їх змінити рішення у майбутньому? #OpenAI #AI #IPO