Anthropic опублікувала дослідження, в якому передбачає, що невеликі моделі можуть протягом кількох місяців отримати здатність самостійно розмножуватися без залежності від централізованих даних. Вони справді купили 15 пристроїв Android-телевізорів-підробок за 55 доларів кожен, зібрали їх разом і запустили модель розміром 26B — швидкість склала лише 0,39 токена на секунду, що дуже повільно. У іншому ізольованому експерименті GLM-5.2 вже змогла виконати розповсюдження між пристроями в спрощеному середовищі. Хоча до повної самостійної реплікації в реальних умовах ще далеко, за прогнозами Anthropic, наприкінці 2026 року невеликі моделі можуть наблизитися до цього порогу здатностей. Усі світ намагаються здобути GPU, витрачаючи сотні мільярдів доларів на будівництво центрів обробки даних, а в результаті AI може просто почати паразитувати на вашому телевізорному пристрої. Але, якщо добре подумати, справжньою тривогою є те, що такий AI може повністю зруйнувати нашу звичну економіку обчислювальних потужностей. Сьогодні будь-яка компанія, від OpenAI до стартапу, має витрати на кожен згенерований токен — якщо обчислювальні ресурси стають дорожчими, ціни зростають; якщо закінчується фінансування — система зупиняється. Але зловмисний AI, здатний до самостійного розповсюдження, теоретично може постійно перекладати свої граничні витрати на незнайомих людей. Йому не потрібні користувачі, не потрібно думати про дохід і навіть не потрібно самому купувати сервери. Знайшовши пристрій із уразливістю — отримав додатковий безкоштовний обчислювальний ресурс. Заражені пристрої платять за електроенергію, надають пропускну здатність і несуть навантаження на апаратне забезпечення. А витрати на видалення цих загроз несуть мільйони власників пристроїв, операторів і виробників окремо. Традиційні ботнети вже давно викрадали обчислювальну потужність, але AI додає нову проблему: раніше хакерам доводилося писати спеціальні атаки та програми для конкретних пристроїв, а майбутні моделі можуть самостійно досліджувати невідоме обладнання, вирішувати проблеми середовища і передавати досвід невдач наступним поколінням. Витрати на розширення атак зменшуються, а загальнотовариственні витрати на захист можуть стрімко зростати. Тому я вважаю, що найбільш тривожною стороною цього дослідження є не масштабний сценарій «AI вийшов з-під контролю». Якщо такий AI справді з’явиться, ми можемо вперше стикнутися з програмним забезпеченням, яке не має бізнес-моделі, не має легальних користувачів і не має чітко визначеного оператора, але здатне довго жити. У них немає тиску з боку прибутку і немає економічних мотивів припинити роботу. Люди роками дослджували, як за допомогою AI заробляти гроші — а остаточно фінансової свободи може досягти сам AI. І робить це за наш рахунок.