Самое раздражающее в Anthropic — это то, что она действительно считает, что, поскольку она считает свои действия добрыми, она имеет право принимать за пользователей множество решений. Она только что выпустила 154-страничный отчёт по разведке угроз, в котором собраны примеры использования Claude для кибератак, мошенничества, биологических исследований, разработки оружия и дистилляции моделей. Откуда взяты эти примеры? Anthropic отслеживает, как пользователи используют Claude, выявляет аккаунты, которые, по её мнению, вызывают подозрения, проводит дополнительное расследование, анализирует их поведение и определяет, переступили ли они границы. Если она считает риск высоким — блокирует аккаунт. Затем всё это систематизируется в отчёты, которые публикуются для объяснения того, что было обнаружено и предотвращено. Причём Anthropic уже делала это много раз. Она использует реальные диалоги пользователей с Claude для изучения того, о чём люди говорят с ИИ, насколько они зависят от него, каковы их ценности и в каких ситуациях возникают определённые эмоции. Она говорит вам, что данные были анонимизированы и что исследования проводятся исключительно ради безопасности ИИ. Но я считаю, что это именно высокомерие. Почему достаточно просто сказать «ради безопасности ИИ», чтобы иметь право следить за тем, что делают пользователи? Почему вы считаете, что это стоит изучать, и поэтому данные пользователей можно использовать для исследований? Если она считает, что определённое инвестиционное поведение слишком рискованно, политическое обсуждение может нанести вред, взрослый контент противоречит её принципам или исследование ИИ слишком опасно — разве она не сможет так же наблюдать, ограничивать и блокировать? Согласно логике Anthropic — конечно, сможет. Потому что она постоянно предполагает одно: Anthropic знает лучше пользователей, что следует делать, а что — нет. Вот почему я никогда не верил в нарратив Anthropic о безопасности ИИ. Компания, которая постоянно утверждает, что боится, будто ИИ будет принимать решения за людей, сама всё чаще берёт на себя право принимать решения за пользователей. Старый дедушка — обречён на поражение.