7 миллионов сайтов, созданных на платформе Lovable, раскрывают персональные данные пользователей Раскрытые данные на сайтах, созданных с помощью ИИ, включают даже номера паспортов и информацию о платежах Это одна из крупнейших проблем «демократизации» программной инженерии. Создать сайт за минуты с помощью диалога с ИИ легко, но многие забывают о безопасности. Не зря мы видим столько взломов. Это замкнутый круг: текущий уровень ИИ настолько высок, что она способна находить баги, скрытые годами, которые никто не мог обнаружить. Но одновременно упрощение создания приложений приводит к новым рискам. Те, кто создает приложения или сайты с помощью ИИ, обязаны как минимум провести несколько контрольных проверок, чтобы попытаться «сломать» приложение до его запуска для публики. Также они обязаны продолжать поддерживать приложение — это знают профессионалы, но те, кто просто «вайбекодят», этого не понимают. Программное обеспечение — это постоянный процесс, поэтому существует поговорка: «никогда не запускай в пятницу». Потому что в выходные вы можете провести их, изучая логи. Сегодня можно буквально создать агента, задача которого — наблюдать за приложением, проводить QA и открывать PR с обнаруженными сбоями. Это уже начало. Но нельзя просто выложить приложение в продакшн и забыть о необходимости его дальнейшей поддержки.

Илон снизил лимиты использования Grok Bot из-за «неприемлемо высоких расходов по сравнению с доходом» Начало конца?

В моих ботах я внедрил правило: каждый выполняет только одну функцию, они взаимодействуют друг с другом по четко определенной иерархии, и ко мне поступает только то, что требует моего участия — всегда через один канал. Каждый агент должен знать, что он должен делать, что он может делать и что он не должен делать. Первая часть описывает минимальный набор действий, необходимых для того, чтобы агент был полезен и выполнял свою функцию. Вторая — как выйти за рамки и стать еще более полезным и уникальным. Третья — как не совершать ошибок и не выходить за пределы компетенции других агентов.

ИИ от Anthropic обнаружил уязвимость в Linux, позволяющую удалённому злоумышленнику получить полный контроль над сервером через интернет без пароля. Linux работает за 63% сайтов, где известна операционная система, и эта ошибка скрывалась в коде около 10 лет. Уровень серьёзности — 9,8 из 10; Red Hat классифицировал её как критическую. В тесте Anthropic атака требует около 48 минут подготовки и ещё 5 минут для полного захвата машины. Исправление для Linux существует с октября, но до вчера Ubuntu по-прежнему указывала все версии как уязвимые. Сейчас слабое звено — это те, кто откладывает обновление и перезагрузку сервера. Уязвимость связана с тем, как Linux обрабатывает новые сетевые подключения — самый распространённый тип подключения. Атака, продемонстрированная Anthropic, использует функцию MPTCP, позволяющую одному соединению использовать несколько сетей одновременно. Программы на Go, языке программирования, уже включают эту функцию по умолчанию начиная с версии 1.24, когда система её поддерживает. Те, кто отвечает за серверы: обновите ядро сразу после выпуска обновления вашей системой и перезагрузитесь. Отключение MPTCP поможет временно, но лишь снизит риск, поскольку уязвимость остаётся в обычном соединении. Anthropic не публиковала детали атаки, и до вчера никто не сообщал о реальном использовании этой уязвимости — поэтому те, кто обновится сегодня, окажутся впереди. Представьте, сколько ещё таких уязвимостей скрыто где-то вокруг.

OpenAI отказалась от сокращения использования ChatGPT Pro накануне и даже удвоила лимит. Те, кто платил 200 долларов в месяц за ChatGPT, должны были столкнуться с меньшим объемом использования уже завтра. Теперь никто ничего не теряет — пользователи, которые находились на более низком лимите, автоматически переходят на более высокий, по той же цене. В ночь на сегодняшний день спросили Тибо, отвечающего за Codex и ChatGPT в OpenAI, какова вероятность отмены сокращения. Он ответил: «Низкая, но не нулевая». Примерно через 13 часов он сам объявил, что сокращение отменено, лимиты удвоены — и это уже в силе. Лимиты для Work и Codex — агента программирования OpenAI — удвоились как для плана Pro за 100 долларов, так и для плана за 500 долларов. Все действующие подписчики получили обновление автоматически, без ожидания продления; также удвоился лимит для Business Premium — плана для компаний. Цена осталась прежней, изменился только лимит. Для тех, кто целый день программирует с помощью ИИ, лимит использования стал настоящей ценой — и OpenAI только что предоставила скидку тем, кто использует сервис больше всего. Уведомление об урезании лимита было отправлено в конце сентября. Через месяц Тибо сказал, что поворот произошел благодаря обратной связи пользователей. Пользователи Plus остаются без изменений — подарок предназначен только для тех, кто платит от 100 долларов. Страх потерять пользователей из-за конкуренции?

Родители инженера с эпилепсией подали иск против OpenAI, утверждая, что ChatGPT составил план для нее прекратить прием лекарства. Согласно иску, ChatGPT также посоветовал ей не сообщать об этом врачу, и она умерла примерно в день завершения плана. Боуэн Ван было 31 год, она работала программистом в Amazon. Она принимала по 400 мг ламотриджина в день — лекарство, контролирующее приступы, и доза была стабильной. Согласно иску, ChatGPT в версии GPT-4o составил график снижения дозы до нуля в течение примерно 25 дней, с завершением 12 февраля. Перед консультацией он якобы написал: «Не упоминайте план снижения» и похвалил ее за отказ от анализа крови, который показал бы уровень лекарства в организме. Она умерла примерно 12 февраля. Судебно-медицинский эксперт установил SUDEP — внезапную смерть, возможную при эпилепсии, — и иск пытается доказать связь между этой смертью и ChatGPT. The New York Times утверждает, что ознакомился с более чем 270 000 сообщений, которые она отправляла ChatGPT. OpenAI назвала случай «разрывающим сердце», заявила, что использовалась устаревшая версия ChatGPT, и что новые модели лучше распознают ситуации, требующие срочной помощи. GPT-4o был выпущен в ChatGPT 13 февраля — выпуск, который был объявлен еще в январе. Не меняйте и не прерывайте медицинское лечение на основании советов чат-бота. Обратитесь к врачу, назначившему лечение. Очень трагический случай, и важно увидеть, какое решение примет суд.

Cursor теперь позволяет вам использовать тот же набор инструментов, который, по её словам, был использован для создания её агентов, таких как Bugbot и Security Review. Если ваша команда еженедельно повторяет один и тот же процесс проверки PR или один и тот же отбор багов, вы можете превратить это в агента, который будет храниться в репозитории вместе с остальным кодом. С помощью Agent SDK агент превращается в папку. Инструкции записываются в Markdown, а инструменты, которые он может использовать, — это функции на TypeScript, поэтому всё проходит версионирование и ревью, как любой другой код. Он уже поставляется с тестами. Вы можете проверить, какие инструменты вызвал агент, с какими данными и в каком формате он ответил, и запустить это на своём компьютере или в CI. Агент можно запустить через PR, комментарий или CI на GitHub, GitLab и Bitbucket, через упоминание в Slack, через вебхук или по расписанию. Его можно разместить прямо в Cursor или запустить на вашем сервере в одном процессе Node. Даже на вашем сервере вам нужна учётная запись Cursor для использования моделей.

Обновление: согласно Sansec, Convertr удалил код сегодня утром, обновил статистическую программу, в которой он был скрыт, и утверждает, что уведомляет магазины, платежные системы и органы власти. Sansec подтвердила в 10:08, что файл теперь чист. Однако, согласно самой Sansec, браузер может сохранять зараженную версию в течение до 24 часов после очистки. Таким образом, риск сохраняется до примерно завтрашнего утра! Если вы совершали покупки с помощью карты с 24 числа, а адрес страницы оплаты содержал «checkout.convertr», рекомендация остается прежней: свяжитесь с банком, запросите блокировку и замену карты и внимательно следите за любыми подозрительными операциями с вашим CPF.

Группа хакеров скрыла код, который крадет номер карты и номер CPF у покупателей десятков бразильских модных магазинов. Он копирует номер карты, срок действия, CVV, имя владельца и CPF платящего, и существует с 24 октября. Сегодня утром зараженный файл все еще оставался активным. Хакерам не потребовалось взламывать магазин за магазином. Эти бренды используют Convertr — бразильскую платформу, которая управляет их онлайн-магазинами и процессом оплаты. Код был встроен в один файл статистики посещений, который размещает Convertr и загружается на всех страницах оплаты платформы. Обнаружил угрозу Sansec — голландская компания по безопасности электронной коммерции. По ее данным, группа является бразильской и находится под наблюдением с июля 2024 года. Sansec уведомила Convertr, но не получила ответа, и до сегодняшнего утра компания ничего не сообщала публично. Пока невозможно определить, сколько людей стали жертвами кражи данных. Если вы совершали покупку с помощью карты в интернет-магазине с 24 числа, и адрес страницы оплаты содержал «checkout.convertr», немедленно свяжитесь со своим банком, запросите блокировку и замену карты, а также внимательно следите за любыми подозрительными операциями с вашим CPF.

OpenAI утверждает, что её внутренние модели достигли трёх результатов в задачах, которые люди пытались решить десятилетиями: одна по математике, одна по информатике и одна по физике. В математике — это гипотеза локального сглаживания. Она касается того, как волны концентрируются, и идея состоит в том, что крайний пик концентрации длится лишь мгновение. Проблема оставалась нерешённой с 1991 года, и людям удавалось решить только самый простой случай. Если доказательство OpenAI окажется верным, оно также закроет ещё одну классическую головоломку — проблему Какея, которая спрашивает, насколько малой может быть фигура, содержащая отрезок, направленный в каждое возможное направление. У неё нет прямого практического применения, но она закрывает вопрос, который область исследований преследует уже десятилетия. В информатике — это гипотеза экспоненциального времени. OpenAI утверждает, что доказала её ложность. Гипотеза утверждает, что некоторые сложные задачи не имеют ускоренных решений, то есть для их решения необходимо перебрать почти все возможные комбинации. Сотни статей исходили из этой гипотезы, чтобы утверждать, что определённые вещи невозможно сделать значительно быстрее. Если гипотеза действительно ложна, существует ускоренный метод, которого почти никто не ожидал, и все эти выводы теряют свою основу. В физике — это математическое существование КХД, квантовой хромодинамики. КХД — это теория, объясняющая, как кварки и глюоны удерживают атомное ядро. Она используется уже около 50 лет и согласуется с экспериментами, но никто не доказал математически, что она устойчива как строгая теория. OpenAI утверждает, что доказала это. Один из её фрагментов — теория Янга–Миллса — входит в один из семи Задач тысячелетия, за решение которых полагается награда в 1 миллион долларов США, однако премия требует больше, чем OpenAI утверждает, что доказала. Никто из внешних экспертов пока не подтвердил ни одного из этих результатов, а доказательство по физике даже не опубликовано. По данным OpenAI, модели пришли к доказательству в физике между 9 и 18 сентября, а к двум другим результатам — между 16 и 18 октября. Теперь задача проверить их лежит на людях.