Исследователь, три года обучавший модели в Anthropic, уволился и опубликовал свою причину в месте, доступном всем 🧐 Джейкоб Коксон, 27 лет. Ранее работал в OpenAI, затем в Anthropic в области предварительного обучения. При уходе он кратко резюмировал: лаборатории соревнуются в создании самосовершенствующегося ИИ, и делают это за счёт нашей жизни. Самая шокирующая часть — то, что последовало 👇 Эван Хабингер, ответственный за настройку в Anthropic, подтвердил это. Его оценка: в ближайшие десять лет вероятность того, что ИИ уничтожит нас всех, превышает 10%. Он говорит, что сегодняшние модели не представляют большой опасности, но его пугает рекурсивное самоусовершенствование. Невероятно, что сотрудник компании по безопасности открыто заявляет такое 😳 Дискуссия мгновенно перешла в политическую плоскость 🏛️ Законопроект Ban Artificial Superintelligence Act, объявленный Берни Сандерсом и Грегом Касаром 3 сентября, уже находился на рассмотрении: постоянный запрет на сверхразум, создание нового федерального агентства для разработки правил безопасности, временная приостановка разработки передовых моделей до введения правил, тюремное заключение до 20 лет за нарушение и обязательная ликвидация компаний. Противоположная сторона тоже не сидит сложа руки 🤨 Сроки ухода, тот факт, что первые цитаты в основном исходили от политических организаций, финансируемых одним и тем же фондом, и полное совпадение с этим законопроектом — всё это побудило многих заявить: «Это не органический процесс, а целенаправленная попытка регуляторного захвата». То есть перед нами две версии: либо это настоящая тревога из самого сердца отрасли, либо операция по продвижению правил, призванных обезвредить конкурентов. Возможно, обе версии верны одновременно. Кстати, сегодня Anthropic опубликовала самый подробный отчёт об угрозах за всю свою историю. В нём описываются попытки использования моделей для кибератак, информационных операций и слежки. Отличный документ для тех, кто хочет понять, на какой основе ведётся дискуссия 📄 Какую из двух версий вы считаете более убедительной — искреннее предупреждение или хорошо спланированный лоббистский ход? 🤔 Этот контент носит исключительно информационный характер и не является инвестиционной рекомендацией или консультацией.