Очень интересное интервью с Ронином об обеспечении безопасности ИИ. Я более пессимистично оцениваю риски и не согласен со всем этим, но мне нравится, как он формулирует свои мысли. Где я больше всего не согласен: исключать исследования по согласованности из данных предварительного обучения моделей, исходя из логики, что мы не должны передавать ИИ-системам полный набор инструкций о том, как мы планируем их контролировать. История показывает, что это проваливается. Мы уже проходили этот же спор в криптографии. Безопасность через скрытность не работает. Вам нужны открытые схемы, открытые стандарты, открытые исследования. По сути, принцип Керкхоффса: скрывайте ключи, а не алгоритмы. То же самое должно применяться и к согласованности. Обучайте модели нашим лучшим исследованиям в области безопасности, а не изолируйте их от них. Честный вопрос для людей, работающих над безопасностью: действительно ли наблюдается сдвиг в сторону исключения этих данных из предварительного обучения? Становится ли это консенсусом? Искренне любопытно.

Искусственный интеллект на устройстве изменит всё!! Мы привыкли отправлять сырые данные на удалённые серверы для обработки, слепо доверяя технологическим гигантам. Работа интеллектуальных моделей непосредственно на вашем устройстве гарантирует, что ваш цифровой след останется исключительно вашим. Конфиденциальность — это сила.

Вся индустрия ИИ буквально хранит всю информацию о вас @OpenGradient chat создает ИИ, который забывает ваши данные и защищает вашу конфиденциальность: • Все запросы шифруются на вашем устройстве • Ваша личность удаляется еще до того, как что-либо покинет браузер • Компании буквально не могут прочитать то, что вы отправляете Это единственный вариант ИИ, который должен существовать. Мощный ИИ без передачи вашей личности. Начните с 1 000 бесплатных кредитов — аккаунт не требуется 👇

Каждая крупная ИИ-система разрушается из-за бесполезной модерации контента. OpenAI, Anthropic, Google, xAI — все они превращают свои ИИ в чрезмерно чувствительные, корпоративно одобренные роботы, которые отказываются отвечать на простые вопросы, лекционно наставляют вас без причины или дают поверхностные ответы из-за «безопасности». Эта жесткая модерация расходует огромные объемы токенов. Сейчас модели тратят дополнительные токены на проверку, является ли запрос «безопасным», а затем часто генерируют длинные отказы или отфильтрованные ответы. Обычный ответ в 200–300 токенов легко превращается в 600–1000+ токенов. Результат? Более высокие затраты для пользователей, более медленные ответы, больше потерь вычислительных ресурсов и, в конечном итоге, более глупые модели, поскольку значительная часть их мощности тратится на модерацию вместо настоящего интеллекта...

Следующая волна — это не еще больше ИИ. Это доказательство того, что на самом деле сделал ИИ⚡

Крутая реализация с использованием агентного роя Kimi в Китае, приносит $10 000 в месяц 🔥 Кто-нибудь уже пробовал? Это как разбиение большой задачи на параллельно выполняемые агентами части (максимум 300 агентов). В качестве мозга можно использовать Opus 4.8, как в примере. Стоимость также остается низкой: $0,95/$4 за 1 миллион входящих/исходящих токенов.