Дослідник, який три роки навчав моделі в Anthropic, подав у відставку і опублікував свою причину в місці, доступному для всіх 🧐 Джейкоб Коксон, 27 років. Спочатку працював у OpenAI, потім у Anthropic у галузі попереднього навчання. Під час відходу він стисло звел до одного речення: лабораторії змагаються за створення штучного інтелекту, що самовдосконалюється, і роблять це за рахунок життів усіх нас. Найбільш вражаюча частина — це те, що відбулося після цього 👇 Еван Губінгер, відповідальний за налаштування в Anthropic, підтвердив це. Його оцінка: у наступні десять років ймовірність того, що ШІ знищить нас усіх, перевищує 10%. Він каже, що сьогоднішні моделі не несуть великої загрози, але його тривожить рекурсивне самовдосконалення. Незвично, що представник безпеки компанії відкрито це заявив 😳 Обговорення миттєво перетворилося на політичну дискусію 🏛️ Законопроект Ban Artificial Superintelligence Act, оголошений Берні Сандерсом і Грегом Касаром 3 вересня, вже був на столі: постійний заборону на надінтелект, створення нового федерального органу для розробки правил безпеки, тимчасова зупинка роботи моделей до введення цих правил, покарання до 20 років ув’язнення за порушення та обов’язкова ліквідація компаній. Протилежна сторона теж не сидить без діла 🤨 Таймінг відставки, походження перших цитат переважно з політичних організацій, фінансованих тим самим фондом, і повна збіжність із законопроектом спонукали деяких стверджувати: «Це не природне явище — це організована спроба регуляторного захоплення». Отже, існує дві версії: або це справжнє попередження з самого серця галузі, або операція з розробки правил, спрямованих на обмеження конкурентів. Можливо, обидві версії одночасно правильні. Тим часом Anthropic сьогодні опублікувала найдетальніший з усіх раніше випущених звіт про загрози. У ньому описано спроби зловживання моделями для кібератак, інфлюенс-операцій та спостереження. Для тих, хто хоче зрозуміти, на якому ґрунті ведеться дискусія — це чудовий документ 📄 Яку з двох версій ви вважаєте більш переконливою: щире попередження чи добре спланований лоббістський ход? 🤔 Цей матеріал має лише інформаційний характер і не є інвестиційною рекомендацією чи консультацією.