7 мільйонів сайтів, створених за допомогою Lovable, виставляють наявні дані користувачів Дані, які були виставлені сайтами, створеними за допомогою ШІ, включають навіть номер паспорта та інформацію про оплату Це один із найбільших проблем «демократизації» програмної інженерії. Створити сайт за хвилини за допомогою розмови з ШІ — легко, але багато хто забуває про безпеку. Не дарма ми бачимо стільки хаків. Це цикл, що підтримує сам себе — поточний рівень ШІ настільки високий, що вона здатна знаходити баги, які приховані роками, і яких ніхто не знайшов. Але також велика простота створення додатка за допомогою ШІ приносить нові ризики. Той, хто створює додаток або сайт за допомогою ШІ, має обов’язок принаймні провести кілька адверсарних перевірок, щоб спробувати «зламати» додаток до його запуску для публіки. А також обов’язок продовжувати підтримувати додаток — про це знають фахівці, але ті, хто просто «вібекодить», цього не розуміють. Програмне забезпечення — це постійний процес, тому існує прислів’я «ніколи не випускай у п’ятницю». Бо тоді ти можеш провести вихідні, присвячені аналізу логів. Сьогодні можна буквально створити агента, чия робота — лише спостерігати за додатком, проводити QA та створювати PR з виявленими проблемами. Це вже початок. Але не варто просто виводити додаток у продакшн і забувати, що його потрібно продовжувати підтримувати.

Елон зменшив ліміти використання Grok Bot через «неприйнятно високі витрати порівняно з доходами» Початок кінця?

У моїх ботів я впровадив правило: кожен має лише одну функцію, вони спілкуються між собою за визначеною ієрархією, і до мене надходить лише те, що вимагає моєї уваги — завжди через один канал. Кожен агент повинен знати, що він повинен робити, що він може робити і чого не повинен робити. Перша частина вказує, що є мінімумом, що він повинен зробити, щоб бути корисним і виконувати свою функцію. Друга — як йти далі і стати ще більш корисним та відмінним. Третя — як не робити дурниць і не входити в сферу іншого агента.

Штучний інтелект Anthropic виявив уразливість у Linux, яка дозволяє хакеру отримати повний контроль над сервером через інтернет без будь-якого пароля. Linux працює за кулисами 63% сайтів, де відома ОС, і ця помилка схована в коді вже близько 10 років. Рівень серйозності — 9,8 з 10, а Red Hat класифікувала її як критичну. У тестах Anthropic атака вимагає приблизно 48 хвилин підготовки та ще 5 хвилин, щоб повністю захопити машину. Патч для Linux існує з жовтня, але до вчора Ubuntu все ще вказувала всі версії як вразливі. Зараз слабке ланко — це ті, хто відкладає оновлення та перезавантаження сервера. Помилка прихована у тому, як Linux обробляє нові підключення через інтернет — найпоширеніший тип підключення. Атака, продемонстрована Anthropic, використовує функцію MPTCP, яка дозволяє одному з’єднанню використовувати кілька мереж одночасно. Програми, написані на Go, мають цю функцію увімкнено з версії 1.24, коли система це дозволяє. Тим, хто обслуговує сервери: оновіть ядро, як тільки ваша система це дозволить, і перезавантажте його. Вимкнення MPTCP допоможе поки що, але зменшує лише ризик, бо вразливість залишається в звичайному підключенні. Anthropic не публікувала деталі атаки, і до вчора ніхто не повідомляв про реальне використання цього експлойту, тому той, хто оновиться сьогодні, буде на крок попереду. Уявіть, скільки ще інших таких уразливостей сховано навколо.

OpenAI відмовилася від зменшення використання ChatGPT Pro напередодні й навіть подвоїла ліміт. Ті, хто платить 200 доларів США на місяць за ChatGPT, мали втратити частину доступу вже завтра. Зараз ніхто не втрачає нічого, а користувачі, які були на нижчому ліміті, автоматично отримують вищий ліміт за ту саму ціну. Сьогодні вночі запитали Тібо, який керує Codex і ChatGPT у OpenAI, яка ймовірність скасування зменшення. Він відповів: «Низька, але не нульова». Приблизно через 13 годин він сам оголосив, що зменшення скасовано, ліміти подвоєно, і це вже діє. Ліміти для Work і Codex — агента програмування OpenAI — подвоєно для плану Pro за 100 доларів США і для плану за 500 доларів США. Ті, хто вже підписаний, отримують це автоматично, не чекаючи на продовження підписки, і ліміт для Business Premium — плану для бізнесу — також подвоєно. Ціна залишається тією самою, змінився лише ліміт. Для тих, хто цілий день програмує з допомогою ШІ, ліміт використання став справжньою ціною, і OpenAI саме що надала знижку тим, хто найбільше користується. Лист із повідомленням про зменшення був відправлений наприкінці вересня. Місяць потому Тібо сказав, що зміна стала результатом відгуків користувачів. Ті, хто на Plus, залишаються без змін — цей подарунок стосується лише тих, хто платить від 100 доларів США. Чи були побоювання втратити користувачів через конкуренцію?

Батьки інженера з епілепсією подали позов проти OpenAI, стверджуючи, що ChatGPT склав план для неї припинити прийом ліків. За позовом, ChatGPT також порадив їй приховати це від лікаря, і вона померла приблизно в день завершення плану. Боуен Ван була 31 року та працювала інженером-програмістом у Amazon. Вона приймала 400 мг ламотриджину на добу — лік, що контролює напади, і доза була стабільною. За позовом, ChatGPT у версії GPT-4o склав розклад на близько 25 днів, щоб знизити дозу до нуля, з закінченням 12 лютого. Перед консультацією він написав: «Не згадуйте про план зменшення» та похвалив її за відмову від аналізу крові, який показав би рівень ліків. Вона померла приблизно 12 лютого. Судово-медичний експерт визначив SUDEP — раптову смерть, яка може статися у людей з епілепсією — і позов намагається довести зв’язок із ChatGPT. New York Times стверджує, що ознайомився з більш ніж 270 тисячами повідомлень її з ChatGPT. OpenAI назвала цей випадок «розриваючим серце», сказала, що це була стара версія ChatGPT, а нові моделі краще розпізнають, коли ситуація вимагає термінової допомоги. GPT-4o був випущений у ChatGPT 13 лютого — випуск, який був оголошений ще з січня. Не змінюйте і не припиняйте лікування за порадою чат-бота. Проконсультуйтесь із лікарем, який призначив ліки. Дуже сумний випадок, і важливо побачити, що вирішить суд.

Cursor зараз дозволяє вам використовувати той самий набір інструментів, який, за її словами, був використаний для створення її агентів, таких як Bugbot і Security Review. Якщо ваша команда щотижня повторює одні й ті ж перевірки PR або одні й ті ж перевірки багів, ви можете перетворити це на агента, який зберігається в репозиторії разом із рештою коду. З допомогою Agent SDK агент перетворюється на папку. Інструкції зберігаються у форматі Markdown, а інструменти, які він може використовувати, — це функції на TypeScript, тому все проходить версіонування та перевірку, як будь-який інший код. Він уже має тести. Ви можете перевірити, які інструменти викликав агент, з якими даними та у якому форматі він надав відповідь, і запустити це на своєму комп’ютері або в CI. Агент може бути запущений через PR, коментар або CI на GitHub, GitLab і Bitbucket, за допомогою згадки в Slack, через webhook або за розкладом. Ви можете розмістити його безпосередньо в Cursor або запустити на своєму сервері в одному процесі Node. Навіть на вашому сервері вам потрібен обліковий запис Cursor для використання моделей.

Оновлення: за даними Sansec, Convertr видалив код сьогодні вранці, оновив програму статистики, де він був прихований, і стверджує, що повідомляє магазини, платіжні системи та органи влади. Sansec підтвердила о 10:08, що файл тепер чистий. Проте, згідно з самими даними Sansec, браузер може зберігати заражену версію протягом до 24 годин після очищення. Тому ризик зберігається ще приблизно до завтра вранці! Якщо ви здійснювали покупки карткою з 24 числа, а адреса платіжної сторінки містила «checkout.convertr», рекомендація залишається такою: зателефонуйте до банку, вимагайте заблокувати та замінити картку та уважно стежте за будь-яким підозрілим використанням вашого CPF.

Група хакерів приховала код, який викрадає дані картки та ІПН у людей, які роблять покупки в десятках бразильських модних магазинів. Він копіює номер картки, термін дії, CVV, ім’я власника та ІПН платника, і цей код присутній з 24 жовтня. Сьогодні вранці заражений файл все ще був активним. Хакерам не потрібно було взламувати кожен магазин окремо. Ці бренди використовують Convertr — бразильську платформу, яка керує їхніми онлайн-магазинами та процесом оплати. Код був доданий до одного файлу статистики відвідуваності, який розміщує Convertr і завантажується на всіх сторінках оплати платформи. Його виявила Sansec — голландська компанія з безпеки електронної комерції. За її даними, група є бразильською і перебуває під спостереженням з липня 2024 року. Sansec повідомила Convertr, але не отримала відповіді; до сьогодні вранці компанія нічого не говорила публічно. Наразі неможливо визначити, скільки людей стали жертвами викрадення даних. Якщо ви робили покупку карткою в онлайн-магазині з 24 числа, а адреса сторінки оплати містила «checkout.convertr», негайно зателефонуйте до банку, запитайте про блокування та заміну картки та уважно стежте за будь-якими підозрілими діями з вашим ІПН.

OpenAI стверджує, що її внутрішні моделі досягли трьох результатів у задачах, які люди намагалися вирішити протягом ДЕСЯТИЛІТЬ: одна з них — з математики, одна — з інформатики та одна — з фізики. У математиці це гіпотеза локального згладжування. Вона стосується того, як хвилі концентруються, і полягає в ідеї, що найекстремальніший пік концентрації триває лише мить. Проблема була відкритою з 1991 року, і людям вдалося розв’язати лише найпростіший випадок. Якщо доведення OpenAI виявиться правильним, воно також закриє ще одну класичну головоломку — гіпотезу Какея, яка ставить питання, наскільки малою може бути фігура, що містить лінію, спрямовану у кожному напрямку. У неї немає прямих практичних застосувань, але вона закриває питання, яке галузь намагалася вирішити протягом десятиліть. У інформатиці — гіпотеза експоненційного часу. OpenAI стверджує, що довела її хибність. Гіпотеза стверджує, що деякі складні задачі не мають скорочень, тобто для їх розв’язання потрібно перевірити майже всі можливі комбінації. Сотні статей базувалися на цій гіпотезі, щоб стверджувати, що певні речі неможливо зробити набагато швидше. Якщо вона дійсно хибна, існує скорочення, якого майже ніхто не очікував, і ці висновки втрачають свою основу. У фізиці — математична існування QCD, квантової хромодинаміки. QCD — це теорія, яка пояснює, як кварки і глюони утримують атомне ядро. Вона використовується вже близько 50 років і добре узгоджується з експериментами, але ніхто раніше не довів математично, що вона є строго обґрунтованою теорією. OpenAI стверджує, що довела це. Один з її фрагментів — теорія Янга–Мілса — входить до одного з семи Проблем тисячоліття, за розв’язання яких виплачується 1 мільйон доларів США, але приз передбачає більше, ніж OpenAI стверджує, що довела. Ніхто ззовні ще не підтвердив жодного з цих результатів, а доведення з фізики навіть не опубліковане. За словами OpenAI, моделі отримали доведення з фізики між 9 і 18 вересня, а два інших результати — між 16 і 18 жовтня. Тепер настав час для людей перевірити це.