Сповіщення
- Користувачі Proton заявляють, що скасовують підписку, і вимагають відставки генерального директора Енди Яна.
- За повідомленнями, Янь назвав запити на збільшення тестування безпеки під час просування швидшого впровадження ШІ «мислення переможців».
- Компанія пізніше скасувала планову переоцінку використання ШІ та опублікувала декларацію, щоб обґрунтувати свої інженерні реформи.
Після того як у відповідних розкриттях з’ясувалося, що Генеральний директор Енди Ян тиснув на інженерів, вимагаючи прийняти ШІ та відкидав запити щодо збільшення тестування безпеки як «мислення переможців», користувачі Proton повідомляють про скасування підписки.
Ця швейцарська приватна компанія пізніше скасувала планований оцінний процес використання ШІ співробітниками.
Ця віднова поставила під сумнів один із найважливіших привабливих моментів Proton — переконання користувачів, що вони можуть довірити йому конфіденційну інформацію. Його сервіс шифрованої електронної пошти захищає вміст листів шифруванням, а зараз клієнти, які сумніваються у процесі розробки, запитують: чи не відбувається прискорення випуску за рахунок їхніх інтересів?
За повідомленням 404 Media, у серпні минулого року співробітник Proton запитав компанію надати кілька днів для проведення пентесту нового коду — тобто, щоб експерти спробували зламати код до його публікації. Ян відповів: «Це брехня, мислення переможених. Звичайно, швидкість і безпека можуть іти разом».
Згідно зі звітом, він також закликав працівників припинити писати код від руки, більше використовувати ШІ та згадав, що перезапровадить співбесіди з працівниками, щоб дізнатися, чи та як вони використовують ШІ для виконання роботи. Згідно з виданням, його розслідування базується на даних дев’яти нинішніх та колишніх працівників, внутрішніх джерелах та аудіозаписах зустрічей.
Цей підхід не отримав схвалення користувачів. Клієнти відповіли на соціальних медіа, таких як Reddit, повідомленнями про відмову від підписки та вимогами змінити керівництво. На форумі зворотного зв’язку Proton пропозиція вимагати відставки отримала 2 020 голосів підтримки під час розгляду, а в коментарях користувачі зазначили, що вже скасували підписку або не будуть продовжувати її.
Крім сліпої використання ШІ, деякі нинішні та колишні співробітники Proton також документували отруйну робочу культуру в Reddit і соціальних мережах, зокрема звертаючи увагу на генерального директора.
Проте ці пости фіксують емоції гніву, а не підтверджену кількість втрачених клієнтів. Відміна платного пакету не означає обов’язково видалення акаунту.
Амбіції Proton щодо ШІ виникли раніше за цю суперечку. Їхній чат-бот Lumo має заходи захисту, щоб запобігти використанню діалогів для навчання ШІ, але навіть у пік хвилі чат-ботів внутрішнє використання ШІ не було одним із ключових пропозицій Proton для публіки.
У відповідь на занепокоєння щодо недбалого використання ШІ, 1 листопада технічний керівник Proton Барт Батлер опублікував інженерну декларацію, в якій закликає розробників керувати великими мовними моделями — системами ШІ, здатними генерувати текст та код — замість того, щоб вважати їх лише допоміжними інструментами.
Батлер порівнює ручне написання коду з вивченням номерів телефонів і уявляє собі відміну більшості ручних перевірок коду. Однак він підкреслює, що професійні навички та тестування залишаються необхідними, і інженери все ще повинні нести відповідальність за завдання, які моделі не можуть обробляти надійно.
Декларація стверджує: «Ваша робота фундаментально змінилася. Вона більше не полягає у написанні коду, а LLM не призначена для того, щоб допомогти вам швидше писати кращий код». «Ваша робота — допомагати LLM швидше писати кращий код». Протон додав, що уникання ШІ становить «екзистенційну загрозу» для успіху його місії.
«Програмування померло. Інженерія не померла,» — сказав Батлер своїй команді, — «ваша колишня робота зникла.»
Цей документ також закликає компанії інвестувати в автоматизацію в усіх напрямках, стверджуючи, що швидше генерування коду не має сенсу, якщо схвалення та інші етапи розробки залишаються повільними. Батлер описав цю реформу як наступний етап впровадження ШІ.
Самі інструменти ШІ можуть вносити проблеми з безпекою. Наприклад, дослідники Microsoft зазначили, що вразливість Claude, яка вже була виправлена, могла використовуватися для витоку секретних облікових даних через зловмисні команди, приховані в матеріалах, перевірених кодовими асистентами.
Але ШІ також може допомогти виявити слабкі місця: система PageBreak від Google шукає вразливості в своїх додатках і перевіряє, чи дійсно ефективні атаки.
Proton визнав перед 404 Media, що менеджмент іноді спілкується надто суворо, і працівники відчувають тривогу. Незважаючи на це, офіційно опубліковане заявлення компанії стверджує, що невміння швидко впроваджувати ШІ загрожує її конкурентоспроможності.
10 жовтня було скасовано повторне інтерв’ю. Спочатку ці оцінки мали вимагати від працівників пояснити, як вони використовують ШІ, і працівники стурбовані, що їхні відповіді можуть вирішити, чи зможуть вони зберегти свої роботи.