Найбільше мене роздратовує в Anthropic те, що вона справді вважає, що якщо вона вважає, що робить добре, то може приймати за користувачів багато рішень. Вона щойно опублікувала 154-сторінковий звіт з інтелекту про загрози, у якому зібрані випадки використання Claude для кібератак, шахрайства, біологічних досліджень, розробки зброї, дистиляції моделей тощо. Як ці випадки з’явилися? Anthropic спостерігає, як користувачі використовують Claude, виявляє облікові записи, які, на її думку, є проблемними, продовжує розслідування, аналізує їхні методи використання, а потім вирішує, чи переступили ці користувачі межу. Якщо виникає ризик — блокує обліковий запис. Потім вона збирає цю інформацію у звіт і публічно пояснює, що вона виявила та чого вдалося запобігти. І це не перший раз, коли Anthropic робить таке. Вона використовує реальні діалоги користувачів і Claude, щоб досліджувати, що саме люди обговорюють з ШІ, як вони залежать від ШІ, які у них цінності та в яких ситуаціях виникають певні емоції. Вона каже вам, що дані були анонімізовані, а дослідження проводяться для того, щоб зробити ШІ безпечнішим. Але я вважаю це надзвичайно надмірним. Чому, коли ви говорите «ради безпеки ШІ», вам дозволяється дивитися, що роблять користувачі? Чому ви вважаєте це гідним дослідження, і ваше право брати дані користувачів? Якщо вона вважає, що певна інвестиційна діяльність надто ризикова, певна політична дискусія може завдати шкоди, певний дорослий контент не відповідає її принципам, або певні дослідження ШІ занадто небезпечні — чи може вона так само дивитися, обмежувати та блокувати? За логікою Anthropic — звичайно може. Оскільки вона завжди припускає одну річ: Anthropic краще знає, що слід робити, а що — ні, ніж користувач. Ось чому я ніколи не вірив у розповідь Anthropic про «безпеку ШІ». Компанія, яка постійно стверджує, що хвилюється про те, що ШІ буде приймати рішення замість людей, сама все частіше приймає рішення за користувачів. Це занадто старомодно. Старомодність обов’язково буде переможена.