Краткие новости
- Пользователи Proton заявляют, что отменяют подписку, и требуют отставки генерального директора Энди Яна.
- Согласно сообщениям, Янь назвал запросы на увеличение объема тестирования безопасности «мышлением проигравших» на фоне продвижения более быстрого внедрения ИИ.
- Компания затем отменила запланированную повторную оценку использования ИИ сотрудниками и выпустила декларацию, оправдывающую свои инженерные реформы.
После того как в соответствующем раскрытии информации было указано, что генеральный директор Энди Янь оказывал давление на инженеров, требуя принять ИИ и назвав запросы на увеличение тестирования безопасности «мышлением проигравших», пользователи Proton сообщают об отмене подписки.
Эта швейцарская приватная компания отменила запланированную оценку использования ИИ сотрудниками.
Этот отскок затронул один из ключевых преимуществ Proton — убеждение пользователей в том, что они могут доверить ему конфиденциальную информацию. Его сервис шифрованной электронной почты защищает содержимое писем с помощью шифрования, и теперь клиенты, сомневающиеся в его процессе разработки, задаются вопросом: не будет ли более быстрый темп выпуска новой версии идти за счет их интересов.
По сообщению 404 Media, в августе прошлого года сотрудник Proton запросил у компании несколько дней на проведение пентеста нового кода — то есть на попытку экспертов взломать код до его выпуска. Ян ответил: «Это чушь, мышление неудачников. Конечно, скорость и безопасность могут идти рука об руку».
Согласно сообщению, он также призвал сотрудников прекратить написание кода вручную и чаще использовать ИИ, упомянув, что будет повторно собеседовать сотрудников, чтобы выяснить, используют ли они ИИ и как именно для выполнения задач. Согласно изданию, его расследование основано на данных девяти нынешних и бывших сотрудников, внутренних источниках и аудиозаписях встреч.
Эта практика не получила одобрения пользователей. Клиенты ответили в социальных сетях, таких как Reddit, уведомлениями об отмене подписки и требованиями сменить руководство. На форуме обратной связи Proton предложение о немедленной отставке набрало 2020 голосов при рассмотрении, а в комментариях пользователи сообщили, что уже отменили подписку или не будут продлевать ее.
Помимо слепого использования ИИ, некоторые нынешние и бывшие сотрудники Proton также задокументировали токсичную корпоративную культуру на Reddit и в социальных сетях, особенно обвиняя генерального директора.
Однако эти посты фиксируют эмоции гнева, а не подтвержденное количество утраченных клиентов. Отмена платного тарифа не обязательно означает удаление аккаунта.
Амбиции Proton в области ИИ существовали задолго до этого скандала. Чат-бот Lumo имеет меры защиты, предотвращающие использование диалогов для обучения ИИ, однако даже в пик популярности чат-ботов внутреннее использование ИИ не было одним из ключевых преимуществ, которые Proton рекламировала публично.
В ответ на обеспокоенность общественности по поводу безответственного использования ИИ, 1 ноября технический руководитель Proton Барт Батлер опубликовал инженерный манифест, в котором утверждает, что разработчики должны управлять крупными языковыми моделями — системами ИИ, способными генерировать текст и код, — а не воспринимать их как случайных помощников.
Батлер сравнивает ручное написание кода с заучиванием номеров телефонов и предполагает в конечном итоге отказ от большей части ручного код-ревью. Однако он настаивает, что профессиональные навыки и тестирование по-прежнему необходимы, и инженеры должны оставаться ответственными за задачи, которые модели не могут обрабатывать надежно.
Заявление гласит: «Ваша работа кардинально изменилась. Она больше не заключается в написании кода, и LLM не призваны помогать вам быстрее писать лучший код». «Ваша задача — помогать LLM быстрее писать лучший код». Протон далее подчеркивает, что избегание ИИ представляет «существенную угрозу» для успеха его миссии.
«Программирование умерло. Инженерия не умерла», — сказал Баттлер своей команде, — «Ваша прежняя работа исчезла».
Файл также призывает компанию инвестировать в автоматизацию по всему предприятию, отметив, что если процессы одобрения и других этапов разработки останутся медленными, то более быстрое генерирование кода будет бессмысленным. Батлер описал эту реформу как следующий этап внедрения ИИ.
Сами инструменты ИИ могут также создавать проблемы с безопасностью. Например, исследователи Microsoft сообщили, что уязвимость в Claude, которая уже была устранена, могла раскрывать секретные учетные данные через вредоносные команды, скрытые в материалах, проверяемых кодировочными помощниками.
Но ИИ также может помочь в выявлении уязвимостей: система PageBreak от Google ищет уязвимости, которые можно эксплуатировать, в своих приложениях и проверяет, действительно ли атака эффективна.
Proton признался 404 Media, что менеджмент иногда общается слишком резко, и сотрудники испытывают тревогу. Тем не менее, официально опубликованное компанией заявление утверждает, что невозможность быстрого внедрения ИИ угрожает ее конкурентоспособности.
10 октября 30-го числа были отменены повторные собеседования. Изначально эти оценки требовали от сотрудников объяснить, как они используют ИИ, и сотрудники опасались, что их ответы могут решить, сохранят ли они работу.