Bulletin
- Les utilisateurs de Proton demandent l'annulation de leur abonnement et appellent le PDG Andy Yen à démissionner.
- On rapporte que Yan a qualifié les demandes d'augmenter les tests de sécurité tout en promouvant une adoption plus rapide de l'IA de « pensée de perdant ».
- L'entreprise a ensuite annulé la réévaluation prévue de l'utilisation de l'IA par les employés et a publié une déclaration pour défendre ses réformes techniques.
Après que des divulgations pertinentes aient révélé que le PDG Andy Yan avait pressé les ingénieurs d'adopter l'IA et avait rejeté les demandes d'augmenter les tests de sécurité comme une « mentalité de perdant », les utilisateurs de Proton signalent avoir annulé leurs abonnements.
Cette entreprise suisse de confidentialité a par la suite annulé l'évaluation prévue de l'utilisation de l'IA par les employés.
Ce rebond remet en question l'un des atouts les plus fondamentaux de Proton — la confiance des utilisateurs à lui confier des informations sensibles. Son service de courrier électronique chiffré protège le contenu des messages, mais les clients qui mettent en doute son processus de développement demandent désormais si un rythme de publication plus rapide ne se fait pas au détriment de leurs intérêts.
Selon 404 Media, en août dernier, un employé de Proton avait demandé à l'entreprise quelques jours pour effectuer un test d'intrusion sur le nouveau code, c'est-à-dire permettre à des experts d'essayer de compromettre le code avant sa publication. Yan a répondu : « C'est du n'importe quoi, c'est une mentalité de perdant. Bien sûr, vitesse et sécurité peuvent aller de pair. »
Le rapport indique qu'il a également encouragé les employés à arrêter d'écrire du code à la main et à utiliser davantage l'IA, mentionnant qu'il réinterviewerait les employés pour comprendre s'ils utilisent l'IA et comment ils l'utilisent pour accomplir leur travail. Selon ce média, son enquête repose sur neuf employés actuels et anciens, des sources internes et des enregistrements de réunions.
Cette pratique n'a pas été approuvée par les utilisateurs. Les clients ont réagi sur des réseaux sociaux tels que Reddit en envoyant des notifications de désabonnement et en exigeant un changement de direction. Sur le forum de retours de Proton, une proposition exigeant un départ immédiat a recueilli 2 020 votes en faveur lors de son examen, et des utilisateurs ont également déclaré dans les commentaires qu'ils avaient déjà annulé leur abonnement ou ne le renouvelleraient pas.
Outre une utilisation aveugle de l'IA, certains employés actuels et anciens de Proton ont documenté sur Reddit et les réseaux sociaux une culture de travail toxique, ciblant en particulier le PDG.
Cependant, ces publications reflètent une émotion de colère, et non un nombre vérifié de clients perdus. L'annulation d'un abonnement payant ne signifie pas nécessairement la suppression du compte.
Les ambitions de Proton en matière d'IA précèdent cette controverse. Son chatbot Lumo intègre des mesures de protection pour empêcher que les conversations ne soient utilisées pour former des IA, mais même au plus fort de la vague de chatbots, l'utilisation interne de l'IA n'était pas l'un des points forts promus par Proton.
En réponse aux préoccupations concernant une utilisation irresponsable de l'IA, Bart Butler, directeur technique de Proton, a publié le 1er novembre une déclaration d'ingénierie affirmant que les développeurs doivent diriger les grands modèles linguistiques — c'est-à-dire les systèmes d'IA capables de générer du texte et du code — et non les considérer comme des assistants occasionnels.
Butler compare la programmation manuelle à la mémorisation de numéros de téléphone et imagine une élimination finale de la majorité des revues de code manuelles. Toutefois, il insiste sur le fait que les compétences professionnelles et les tests restent essentiels, et que les ingénieurs doivent toujours être responsables des tâches que les modèles ne peuvent pas traiter de manière fiable.
La déclaration affirme : « Votre travail a fondamentalement changé. Il ne s'agit plus d'écrire du code, et les LLM ne sont pas là pour vous aider à écrire plus rapidement de meilleurs codes. » « Votre travail, c'est d'aider les LLM à écrire plus rapidement de meilleurs codes. » Proton insiste en outre que rejeter l'IA constitue une « menace existentielle » pour le succès même de sa mission.
« La programmation est morte. L’ingénierie, elle, n’est pas morte », a déclaré Butler à son équipe, « votre ancien travail a disparu. »
Le document appelle également l'entreprise à investir à grande échelle dans l'automatisation, affirmant qu'il n'a guère de sens de générer plus rapidement du code si les processus d'approbation et d'autres étapes de développement restent lents. Butler qualifie cette réforme de prochaine étape de l'adoption de l'IA.
Les outils d'IA eux-mêmes peuvent également introduire des problèmes de sécurité. Par exemple, des chercheurs de Microsoft ont indiqué qu'une vulnérabilité de Claude, désormais corrigée, pourrait exposer des identifiants d'accès secrets via des instructions malveillantes cachées dans les documents examinés par l'assistant de codage.
Mais l’IA peut également aider à identifier les faiblesses : le système PageBreak de Google recherche des vulnérabilités exploitables dans ses applications et vérifie si les attaques sont réellement efficaces.
Proton a reconnu auprès de 404 Media que la direction parfois communique de manière trop brutale et que les employés ressentent de l'anxiété. Malgré cela, la déclaration publique de l'entreprise affirme que le manque d'adoption rapide de l'IA menacerait sa compétitivité.
Yan a annulé les réentretiens prévus le 30 octobre. Ces évaluations auraient exigé des employés qu'ils expliquent comment ils utilisent l'IA, et les employés craignaient que leurs réponses déterminent leur capacité à conserver leur emploi.