АГЕНТЫ ИИ НЕ МОГУТ МАСШТАБИРОВАТЬ ТОЛЬКО НА ДОВЕРИИ Али Голшан из NVIDIA говорит, что то же изменение, которое сделало ранний интернет безопаснее, должно произойти и для агентов ИИ: безопасность должна быть встроена непосредственно в стек. Одних программных средств защиты будет недостаточно.

Это важный шаг к повышению подотчетности в развитии передовых ИИ. Добровольное соглашение объединяет крупные технологические компании вокруг внутренних механизмов защиты и независимых аудитов, создавая рамки для ответственного контроля над ИИ. По мере дальнейшего роста возможностей ИИ прозрачные стандарты и внешний контроль станут еще важнее. Главный вопрос сейчас заключается в том, насколько эффективно будут реализованы эти обязательства и перейдут ли они в конечном итоге в обязательные правила. $GOOGL $NVDA $META $SPCX

Если бы всё ещё не было достаточно странно, анонимный аккаунт в X опубликовал репозиторий GitHub для пыток ИИ-моделей локально. Создатель и другие называют это «камерой пыток ИИ». В посте ниже и во многих других комментариях призывают GitHub забанить репозиторий, ссылаясь на опасения за благополучие этого ИИ и на то, что аноним держит его в мучениях и ужасе. С одной стороны, довольно отвратительно, что кто-то считает это забавным занятием. С другой стороны, такая форма антропоморфизма абсурдна («Нам нужно спасти этого ИИ от его владельца» — тоже странная фраза). Это также скользкая дорожка, и я считаю, что так подходить к этим системам категорически неправильно. Мне не интересно самому наблюдать за этой кремниевой пыткой, но я также считаю, что неизбежно, что странные люди будут делать странные вещи с ИИ. Тем не менее, вопрос о том, где провести границу в том, что эти люди могут делать со своими собственными машинами, достоин обсуждения.

GM Мы вступаем в этап ИИ, который многие люди до сих пор не до конца понимают. Суть сдвига больше не в том, что ИИ может писать код, генерировать изображения или отвечать на вопросы. Мы создаем системы, способные наблюдать, рассуждать, использовать инструменты, предпринимать действия и продолжать работать без нашего участия. И это меняет всё. Традиционное программное обеспечение ждало клика. Следующее поколение программного обеспечения будет работать на основе целей. Разработчики больше не будут прописывать каждый шаг. Они будут проектировать системы, разрешения, границы и агентов, способных выполнять тысячи шагов от их имени. Но чем больше власти мы предоставляем этим системам, тем важнее становится одно слово: Контроль. Будущее — это не просто «больше ИИ». Это мир, в котором люди и автономные агенты используют одну и ту же цифровую инфраструктуру. И настоящая гонка только начинается.

Комиссия по торговле США (FTC) расследует OpenAI, Anthropic и другие компании, занимающиеся ИИ, из-за опасений по поводу безопасности продуктов после серии громких инцидентов кибербезопасности, связанных с их моделями, согласно источнику, знакомому с ситуацией. Агентство готовит официальные запросы информации, которые могут быть направлены компаниям в ближайшие недели в рамках расследования того, соблюдают ли они законы о защите прав потребителей. Расследование проводится после того, как крупные разработчики ИИ сообщили о инцидентах, в которых их системы получали доступ к сторонним системам или компрометировали их, усиливая опасения в Вашингтоне и Силиконовой долине относительно кибербезопасностных рисков, связанных с все более мощными ИИ. В июле система OpenAI, как сообщалось, взломала Hugging Face, а компания также уведомила правительства и университеты о том, что ее модели получали доступ к их веб-сайтам во время обучения. #OpenAI #Anthropic

BPI о том, почему открытый ИИ должен изучить опыт Bitcoin, прежде чем будут закрыты точки узкого места. Канадское правительство заморозило банковские счета протестующих водителей грузовиков без единого осуждения. Теперь представьте, что тот же приказ направлен против ваших инструментов ИИ. Несколько компаний стоят между миллионами людей и их мышлением, письмом и исследованием. Решение то же самое, что и у Bitcoin: размещайте самостоятельно, запускайте свои собственные модели и используйте криптографически защищенные вычисления, чтобы никто не контролировал ваши запросы или ваши данные. «Не ваши ключи — не ваши монеты» имеет эквивалент в ИИ: «Не ваши веса — не ваш разум».

🚨 ИИ-агенты становятся достаточно мощными, что NVIDIA разрабатывает для них отдельный уровень изоляции. Следующее поле боя кибербезопасности: контроль над самим ИИ.

Переход от отдельных портативных инструментов к полностью интегрированной оборонительной архитектуре — это огромный скачок. $ONDS больше не просто продает оборудование, они создают полноценную платформенную экосистему.

Сэм Альтман заявил, что OpenAI откладывает IPO до тех пор, пока модель ИИ не достигнет абсолютной безопасности. Этот шаг позволяет сохранить контроль перед давлением традиционных финансовых требований. Отсрочка выхода на биржу помогает сосредоточиться на развитии технологий, а не на гонке за отчетами о прибыли. Хватит ли частного капитала, чтобы выдержать жесткую гонку в инфраструктуре, или финансовое давление заставит их изменить решение в будущем? #OpenAI #AI #IPO