Berita singkat
- Pengguna Proton menyatakan akan membatalkan langganan dan menuntut CEO Andy Yen untuk mengundurkan diri.
- Dilaporkan bahwa Yan menyebut permintaan untuk meningkatkan pengujian keamanan sebagai "pemikiran pecundang" sambil mendorong adopsi AI yang lebih cepat.
- Perusahaan kemudian membatalkan penilaian ulang penggunaan AI terhadap karyawan dan menerbitkan pernyataan untuk mempertahankan reformasi tekniknya.
Setelah pengungkapan terkait menunjukkan bahwa CEO Andy Yan pernah memberi tekanan pada insinyur untuk mengadopsi AI dan menganggap permintaan peningkatan pengujian keamanan sebagai "pemikiran pecundang", pengguna Proton melaporkan telah membatalkan langganan mereka.
Perusahaan privasi Swiss ini selanjutnya telah membatalkan penilaian penggunaan AI oleh karyawan yang sebelumnya dijadwalkan.
Pemulihan ini menyerang salah satu nilai jual utama Proton—yaitu meyakinkan pengguna bahwa mereka dapat mempercayakan informasi rahasia kepada Proton. Layanan email terenkripsi Proton mengenkripsi konten email, namun kini pelanggan yang meragukan proses pengembangannya bertanya: apakah ritme peluncuran yang lebih cepat akan mengorbankan kepentingan mereka?
Menurut laporan 404 Media, pada Agustus tahun lalu, seorang karyawan Proton meminta perusahaan memberi beberapa hari untuk melakukan pengujian penetrasi terhadap kode baru, yaitu mencoba membobol kode tersebut oleh para ahli sebelum rilis. Yan menjawab: "Itu omong kosong, pikiran orang gagal. Tentu saja, kecepatan dan keamanan bisa dicapai bersamaan."
Laporan tersebut menyebutkan bahwa ia juga mendesak karyawan untuk berhenti menulis kode secara manual dan lebih banyak menggunakan AI, serta menyebut bahwa ia akan melakukan wawancara ulang terhadap karyawan untuk memahami apakah dan bagaimana mereka menggunakan AI dalam menyelesaikan pekerjaan. Media tersebut menyatakan bahwa investigasinya didasarkan pada sembilan karyawan saat ini dan mantan karyawan, sumber internal, serta rekaman rapat.
Tindakan ini tidak mendapat persetujuan pengguna. Pelanggan telah merespons di media sosial seperti Reddit dengan pemberitahuan pembatalan langganan dan permintaan pergantian kepemimpinan. Di forum umpan balik Proton, sebuah usulan yang menuntut pengunduran diri segera telah mendapatkan 2.020 suara mendukung selama tinjauan, dengan pengguna lain berkomentar bahwa mereka telah membatalkan langganan atau tidak akan memperpanjangnya.
Selain penggunaan sembarangan terhadap AI, beberapa karyawan Proton saat ini dan mantan karyawan juga mendokumentasikan budaya kerja toksik di Reddit dan media sosial, terutama menyalahkan CEO.
Namun, postingan-postingan ini mencatat emosi kemarahan, bukan jumlah pelanggan yang telah hilir dan diverifikasi. Pembatalan paket berbayar juga tidak selalu berarti penghapusan akun.
Ambisi Proton terhadap AI sudah ada sebelum kontroversi ini. Chatbot Lumo-nya dilengkapi langkah-langkah perlindungan untuk mencegah percakapan digunakan dalam pelatihan AI, tetapi bahkan di puncak gelombang chatbot, penggunaan internal AI bukanlah salah satu poin penjualan yang dipromosikan Proton kepada publik.
Untuk merespons kekhawatiran publik tentang penggunaan AI yang tidak bertanggung jawab, pada 1 November, Bart Butler, kepala teknis Proton, merilis sebuah deklarasi teknik yang mendukung agar pengembang mengendalikan model bahasa besar—sistem AI yang dapat menghasilkan teks dan kode—bukan hanya menganggapnya sebagai asisten yang digunakan sesekali.
Butler membandingkan penulisan kode manual dengan menghafal nomor telepon, dan membayangkan penghapusan sebagian besar tinjauan kode manual. Namun, ia tetap menekankan bahwa keahlian profesional dan pengujian masih sangat diperlukan, dan insinyur tetap bertanggung jawab atas pekerjaan yang tidak dapat ditangani secara andal oleh model.
Deklarasi tersebut menyatakan: "Pekerjaanmu telah berubah secara mendasar. Itu bukan lagi menulis kode, dan LLM bukanlah untuk membantumu menulis kode yang lebih baik lebih cepat." "Pekerjaanmu adalah membantu LLM menulis kode yang lebih baik lebih cepat." Proton lebih lanjut menekankan bahwa menghindari AI merupakan "ancaman eksistensial" terhadap keberhasilan misinya sendiri.
“Pemrograman sudah mati. Rekayasa tidak mati,” kata Butler kepada timnya, “Pekerjaan lama Anda telah hilang.”
Dokumen tersebut juga mendesak perusahaan untuk berinvestasi dalam otomatisasi secara menyeluruh, menyatakan bahwa membuat kode lebih cepat tidak akan berarti banyak jika proses persetujuan dan tahap pengembangan lainnya tetap lambat. Butler menggambarkan reformasi ini sebagai tahap selanjutnya dalam penerapan AI.
Alat AI sendiri juga dapat memperkenalkan masalah keamanan. Misalnya, peneliti Microsoft menyatakan bahwa kerentanan Claude yang kini telah diperbaiki dapat mengekspos kredensial akses rahasia melalui instruksi jahat yang tersembunyi dalam materi yang ditinjau oleh asisten pengkodean.
Namun, AI juga dapat membantu mengidentifikasi kelemahan: sistem PageBreak dari Google akan mencari kerentanan yang dapat dieksploitasi dalam aplikasinya dan memeriksa apakah serangan tersebut benar-benar efektif.
Proton mengakui kepada 404 Media bahwa manajemen terkadang berkomunikasi terlalu kaku, dan karyawan merasa cemas. Meskipun demikian, pernyataan resmi yang dirilis perusahaan tetap berpendapat bahwa gagal mengadopsi AI dengan cepat akan mengancam daya saingnya.
Pada 30 Oktober, Yan membatalkan jadwal wawancara ulang. Awalnya, penilaian ini meminta karyawan untuk menjelaskan bagaimana mereka menggunakan AI, dan karyawan khawatir jawaban mereka dapat menentukan apakah mereka akan kehilangan pekerjaan.