Les entreprises SaaS font face à un dilemme de sécurité des données dans le cadre de l'intégration de l'IA

iconMetaEra
Partager
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconRésumé

expand icon
Les entreprises SaaS luttent contre les risques de sécurité des données à mesure que l'intégration de l'IA augmente. Les grands acteurs technologiques affirment ne pas utiliser les données clients pour l'entraînement, mais des processus d'IA peu clairs alimentent les inquiétudes. Pour protéger les données commerciales, les fournisseurs utilisent la livraison en boîte noire, l'IA sur site et le marquage des données. Parallèlement, les données sur l'inflation restent un facteur clé dans les décisions d'investissement des entreprises. Alors que les nouvelles liées à l'IA et à la cryptomonnaie gagnent en popularité, les entreprises doivent équilibrer innovation et transparence pour garantir la sécurité et la confiance de leurs clients.
Lorsque les grands modèles commencent à « consommer » les données des entreprises, les SaaS ne vendent plus seulement des logiciels, mais la confiance des clients à leur confier leur vie.

Auteur et source de l'article : NiuTouShe

Lors de récentes discussions privées et fréquentes, NewBull a observé un phénomène extrêmement contradictoire : lors des grandes conférences sur les écosystèmes, les fondateurs d'entreprises de services professionnels crient tous à l'« adoption totale des grands modèles » ; mais en privé, ils sont tourmentés par une anxiété profonde et lancinante : si nous fournissons sans réserve, via des interfaces, la liste des clients CRM, les flux financiers ERP et les fiches de paie RH à des grands modèles de base détenus par de grandes entreprises, nos barrières à l'entrée que nous avons construites pendant dix ans ne seront-elles pas complètement exposées ?

Les grandes entreprises assurent avec confiance : « Nous n'utiliserons jamais les données des clients pour l'entraînement, elles seront détruites après utilisation. » Mais à l'ère actuelle des grands modèles « boîtes noires », invisibles et intangibles, ce type de promesse fondée uniquement sur la déontologie s'avère extrêmement fragile face aux véritables intérêts commerciaux.

Une bataille silencieuse autour de la propriété du registre central de l'entreprise a déjà commencé.

Méfiez-vous du suction

Pour comprendre ce jeu, il faut d'abord déterminer ce qui manque aux grands modèles généraux.

Les grands modèles généralistes des grandes entreprises sont comme des « élèves brillants mais incapables » : ils peuvent écrire des poèmes et du code magnifiques, mais ils sont complètement perdus lorsqu’ils entrent dans les scénarios réels d’entreprise. Ils ne comprennent pas comment recalculer le coût de toute une chaîne de production lorsqu’un fabricant fait face à une hausse des matières premières ; ils ne comprennent pas les subtilités extrêmement complexes des commissions et remises dans les supermarchés en chaîne selon les différentes régions. Ces connaissances industrielles inestimables sont toutes stockées dans les bases de données des fournisseurs de SaaS verticaux.

Pour devenir plus intelligent et augmenter sa valeur, le modèle de grande taille doit « consommer » ces données. Comment ? En se connectant via des interfaces ouvertes aux systèmes SaaS, le modèle de grande taille déclenche un processus de « copie » extrêmement discret :

Étape 1 : Récupérer les données. Le modèle de grande taille récupère via une interface les détails des coûts, les remises sur les ventes et autres données à haute valeur ajoutée du système SaaS.

Étape 2 : Analyse des données. Grâce à une puissance de calcul extrêmement élevée, le grand modèle compare rapidement ces données et fournit des conclusions commerciales précises.

Étape 3 : Internalisation de l'expérience (l'étape la plus terrifiante). Après le calcul des comptes, la grande entreprise tient bien ses promesses et supprime vos données brutes d'activité. Toutefois, le modèle de grande taille a déjà complètement « appris » les tendances de fluctuation des coûts de votre secteur et les pratiques commerciales spécifiques !

Les grands modèles n'ont pas volé vos données en clair, mais ils ont volé l'« expérience des médecins traditionnels chinois » cachée derrière ces chiffres. Le fossé compétitif que les fournisseurs SaaS ont construit avec tant d'efforts pendant dix ans a été silencieusement intégré en tant qu'intelligence fondamentale des grandes entreprises après quelques appels d'API aux grands modèles. Il s'agit d'une attaque extrêmement mortelle par réduction de dimension.

Perte de confiance

Ce n’est pas le pire. Le pire, c’est que lorsque vous ouvrez la porte aux grands modèles, vous touchez en réalité le point sensible de vos bailleurs de fonds (clients).

Les grandes et moyennes entreprises publiques et privées en Chine, ainsi que les principales entreprises privées, ont une sensibilité innée à la sécurité des données. Autrefois, pour assurer la confidentialité, les patrons souhaitaient presque enfermer leurs serveurs dans les sous-sols de leur propre entreprise. Maintenant, vous leur dites : « Patron, nous avons intégré le grand modèle de cloud public d'une grande entreprise, notre système sera désormais plus intelligent. »

Les clients ne seront pas contents ; au contraire, ils retiendront leur souffle : cela signifie-t-il que les prix d'achat de base de l'entreprise, la rémunération réelle des cadres supérieurs et le taux de renouvellement des grands clients devront tous être transmis par Internet vers les serveurs externes des grandes entreprises pour être « calculés » ?

Dès qu'une ligne rouge en matière de sécurité des données est franchie, les clients ne blâment pas les fournisseurs de grands modèles, mais bien vous, le fournisseur SaaS. Les entreprises SaaS se retrouvent coincées entre deux feux : ne pas intégrer l'IA rend le système obsolète et le rend invendable ; intégrer l'IA des grands acteurs fait craindre aux clients un manque de sécurité, une éventuelle violation de contrat, voire des poursuites judiciaires. Dans des secteurs extrêmement conservateurs comme la finance, la santé ou la fabrication, c'est littéralement une sentence de mort.

La contre-attaque du SaaS

Pour préserver la confiance de leurs clients et leur propre emploi, les experts chevronnés du service aux entreprises ont commencé à se réveiller et ont mis en œuvre trois méthodes de défense extrêmement robustes, dont l’objectif principal est unique : empêcher le vol de connaissances et les fuites.

Première stratégie : donnez uniquement la conclusion, pas le processus (boîte noire métier)

Les fournisseurs de SaaS verticaux commencent à retenir des éléments clés des grands modèles.

Lorsque le grand modèle demande des données, ne jamais fournir les détails détaillés des flux de trésorerie. Le SaaS calcule lui-même, en interne, ces comptes complexes et sensibles, puis ne fournit au grand modèle qu'une « conclusion finale anonymisée ». Le grand modèle n'est ici qu'un simple messager ; le SaaS est le véritable cerveau qui prend les décisions. Cela coupe directement le chemin par lequel le grand modèle pourrait apprendre les expériences des domaines avancés.

Deuxième stratégie : Déplacer la puissance de calcul AI dans les locaux du client (déploiement privé)

C’est la méthode la plus fondamentale pour résoudre la crise. Puisque transférer les données vers le cloud public n’est pas sécurisé, il suffit simplement de ne pas les transférer. Les fournisseurs de SaaS n’ont plus recours aux grands modèles de mille milliards de paramètres externes, mais optent pour un petit modèle léger de cent milliards de paramètres, spécialement entraîné, directement installé et intégré sur les serveurs de l’entreprise cliente, voire sur l’ordinateur du patron. Remplacer « les données dans le cloud » par « la puissance de calcul en milieu rural ». Dès que le câble réseau est débranché, les données sont physiquement isolées à 100 %, réalisant ainsi véritablement « la viande pourrie dans son propre chaudron ».

Troisième méthode : Introduire des toxines et des marques dans les données (traçabilité et anti-contrefaçon)

Dans certains scénarios où il est nécessaire de fournir des données aux grands modèles, les passionnés de technologie commencent à intégrer discrètement dans le flux de sortie des marqueurs uniques invisibles à l'œil nu et n'ayant aucun impact sur les opérations. Si, à l'avenir, on découvre qu'un grand modèle d'une entreprise utilise des logiques métier exclusives à votre organisation lorsqu'il répond à des questions d'autres entités, la vérification de ces marqueurs constituera une preuve irréfutable que l'entreprise a utilisé vos données sans autorisation pour entraîner son modèle.

Repricing

Sous l'impact des grands modèles, la logique de calcul des entreprises lors de l'achat de logiciels a complètement changé.

Auparavant, les clients choisissaient des logiciels principalement en fonction de la complétude des fonctionnalités et de la qualité de l’interface. Mais à l’avenir, à mesure que les dirigeants prendront conscience de la souveraineté des données, leur critère premier pour acheter sera : « Pouvez-vous jurer que mes données ne fuiront absolument pas ? »

Cela signifie que « la sécurité absolue » deviendra le point de vente le plus rare et le plus précieux dans le secteur des services aux entreprises à l'avenir.

Les SaaS légers qui ne possèdent pas de boucle technologique propre et ne sont que des « répétiteurs » de grands modèles perdront rapidement l'affection des grands clients. En revanche, les fournisseurs capables d'installer la puissance de calcul AI directement dans les locaux des clients et de clarifier les comptes complexes au sein de leurs propres systèmes ne pourront pas seulement regagner la confiance absolue de leurs clients, mais aussi, face à la concurrence féroce et à la guerre des prix dans toute l'industrie, revendiquer légitimement un pouvoir de tarification très élevé.

Révéler ses cartes, c'est la voie de la mort.

Sans résoudre en profondeur les deux questions fondamentales — « À qui appartiennent les données ? » et « Pourquoi le patron devrait-il vous faire confiance ? » — l'écosystème AI prospère ne pourra jamais dépasser les marges et n'atteindra jamais les activités centrales des grandes entreprises.

Dans ce jeu entre les géants du secteur, les fournisseurs SaaS et les clients, personne ne cédera volontairement sa part. L'ambition des géants en matière de données ne faiblira pas, et les clients ne baisseront pas leur exigence de sécurité absolue. Pour les fournisseurs SaaS, rêver de gagner un peu de trafic des géants en cédant volontairement leurs données est une impasse totale.

À cette époque, la loi de la jungle est extrêmement simple et brutale : là où vos données sont protégées, se trouve votre avantantage concurrentiel. Dans cette guerre invisible sans fumée, préserver votre ligne de défense des données, c’est sauver la vie même de votre entreprise.

Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.