Las empresas de SaaS enfrentan un dilema de seguridad de datos amid la integración de IA

iconMetaEra
Compartir
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconResumen

expand icon
Las empresas SaaS enfrentan riesgos de seguridad de datos a medida que crece la integración de IA. Las principales empresas tecnológicas afirman no utilizar los datos de los clientes para entrenamiento, pero los procesos de IA poco claros generan preocupaciones. Para proteger los datos empresariales, los proveedores están utilizando entrega en caja negra, IA en sitio y marca de agua de datos. Mientras tanto, los datos de inflación siguen siendo un factor clave en las decisiones de gasto empresarial. A medida que las noticias sobre IA + cripto ganan tracción, las empresas deben equilibrar la innovación con la transparencia para mantener a los clientes seguros y confiados.
Cuando los modelos grandes comienzan a "ingerir" los datos empresariales, lo que el SaaS vende ya no es software, sino si el cliente se atreve a confiarle su vida.

Autor y fuente del artículo: NiuTouShe

En recientes reuniones cerradas de alta frecuencia, NewTrends descubrió un fenómeno profundamente contradictorio: en los principales foros ecológicos, los fundadores de empresas de servicios empresariales gritan a plena voz: “Abrazar completamente los grandes modelos”; pero en privado, todos son atormentados por una ansiedad que toca el alma y no pueden dormir: ¿si entregamos sin reservas a los grandes modelos básicos de las grandes empresas los listados de clientes CRM, los flujos financieros ERP y las nóminas de RRHH a través de interfaces, acaso nuestros esfuerzos de diez años construyendo barreras comerciales quedarán completamente expuestos?

La gran empresa aseguró con confianza: “No utilizaremos los datos de los clientes para entrenamiento; se eliminarán después de su uso”. Pero en esta era actual de “cajas negras” de modelos grandes, invisibles e intangibles, este tipo de compromiso basado únicamente en la ética resulta extremadamente frágil frente a los verdaderos intereses comerciales.

Ya ha comenzado una batalla silenciosa por la propiedad del libro mayor central de la empresa.

Alerta de succión

Para comprender este juego, primero debes entender qué le falta a los modelos generales.

Los grandes modelos generales de grandes empresas son como un "estudiante de altas notas pero baja capacidad práctica": pueden escribir poemas y código hermosos, pero se quedan completamente perdidos cuando entran en escenarios reales de negocios empresariales. No entienden cómo recalcula el costo de toda una línea de producción en la manufactura cuando aumentan los precios de las materias primas; tampoco comprenden las complejidades y trucos de las comisiones y reembolsos en cadenas de supermercados en diferentes regiones. Estos conocimientos industriales, invaluables, están completamente almacenados en las bases de datos de proveedores de SaaS verticales.

Para que el modelo grande se vuelva más inteligente y pueda venderse a un mejor precio, debe "ingerir" estos datos. ¿Cómo los ingiere? A través de interfaces abiertas que se conectan a sistemas SaaS, el modelo grande inicia un proceso de "aprendizaje disimulado":

Paso uno: recuperar la información. El modelo grande obtiene mediante una interfaz los datos de alto valor del sistema SaaS, como los detalles de costos y los descuentos de ventas, y los carga en su "cerebro".

Paso dos: analizar los cálculos. Con una capacidad de procesamiento extremadamente potente, el modelo grande compara rápidamente estos datos y proporciona conclusiones comerciales precisas.

Paso tres: internalización de la experiencia (el paso más aterrador). Después de calcular las cuentas, la gran empresa cumple realmente su promesa y elimina tus datos originales de flujo. Sin embargo, durante este proceso, el modelo grande ya ha aprendido por completo los patrones de fluctuación de costos de tu industria y las prácticas comerciales únicas.

El modelo grande no robó tus datos en texto plano, pero sí robó la “experiencia de los antiguos médicos chinos en el diagnóstico” oculta detrás de esos números. La ventaja competitiva que los proveedores de SaaS construyeron con esfuerzo durante diez años fue internalizada silenciosamente como la inteligencia básica de las grandes empresas tras solo unas pocas llamadas a la API del modelo grande. Este es un ataque extremadamente letal de reducción dimensional.

Confianza colapsada

Esto aún no es lo peor. Lo peor es que, cuando abres las puertas a los modelos grandes, realmente tocas el punto sensible de tus patrocinadores (clientes).

Las grandes y medianas empresas públicas y privadas de China tienen una sensibilidad inherente hacia la seguridad de los datos. Anteriormente, para mantener la confidencialidad, los dueños casi deseaban bloquear los servidores en el sótano de su propia empresa. Ahora, si le dices: “Jefe, nos hemos conectado al modelo de inteligencia artificial en la nube pública de una gran empresa, y ahora nuestro sistema será más inteligente.”

Los clientes no solo no estarán contentos, sino que se quedarán helados: ¿significa esto que los precios base de adquisición clave de la empresa, los salarios reales de los ejecutivos y la tasa de renovación de grandes clientes deberán transmitirse por internet a los servidores externos de grandes empresas para ser “calculados” nuevamente?

Cuando se toca la línea roja de la seguridad de los datos, el primer culpable que el cliente insultará no será el proveedor del modelo grande, sino tú, la empresa SaaS que proporciona el software. Las empresas SaaS quedan atrapadas en el medio, sufriendo por ambos lados: si no integran IA, el sistema parece lento y no se vende; si integran la IA de grandes empresas, los clientes consideran que no es seguro, que podrías incumplir en cualquier momento e incluso enfrentar demandas legales. En industrias extremadamente conservadoras como las finanzas, la salud y la manufactura, esto es literalmente una sentencia de muerte.

El contraataque de SaaS

Para mantener la confianza de los clientes y su propio empleo, los expertos experimentados en servicios empresariales ya han despertado y han implementado tres medidas de defensa extremadamente sólidas, cuyo objetivo central es único: prevenir el robo de conocimientos y las filtraciones.

Primer truco: solo da la conclusión, no el proceso (caja negra de negocios)

Los proveedores de SaaS vertical comenzan a reservarse algo de los modelos grandes.

Cuando el modelo grande solicite datos, nunca se deben proporcionar los registros detallados de bajo nivel. El SaaS calcula internamente esas cuentas complejas y sensibles, y solo entrega al modelo grande una “conclusión final despersonalizada”. Aquí, el modelo grande actúa únicamente como un mensajero, mientras que el SaaS es el cerebro que toma las decisiones finales. Esto corta directamente la vía por la cual el modelo grande podría aprender secretos avanzados.

Segunda estrategia: Mover la capacidad de IA a las instalaciones del cliente (despliegue privado)

Esta es la medida más fundamental para resolver la crisis. Dado que enviar datos a la nube pública no es seguro, simplemente no se envían. Los proveedores de SaaS ya no dependen de modelos grandes de miles de millones de parámetros externos, sino que buscan modelos ligeros de cientos de millones de parámetros, los entrenan específicamente y los empaquetan directamente para instalarlos en los servidores de la propia empresa del cliente, e incluso en la computadora del jefe. Reemplazar “los datos en la nube” con “la capacidad de cómputo en el campo”. Al desconectar el cable de red, los datos quedan aislados físicamente al 100%, logrando así un verdadero “la carne se pudre en la propia olla”.

Tercer truco: Envenenar los datos y aplicar marcas (rastreo antifraude)

En ciertos escenarios en los que es inevitable alimentar a los modelos grandes con datos, los entusiastas técnicos han comenzado a incrustar en el flujo de salida marcas exclusivas invisibles a simple vista y que no afectan el negocio. Si en el futuro se descubre que un modelo grande de una gran empresa utiliza, al responder preguntas de otra empresa, lógica comercial exclusiva tuya, revisar esas marcas será la prueba contundente de que la empresa grande utilizó tus datos sin autorización para entrenar su modelo.

Reajuste de precios

Bajo el impacto de los modelos grandes, la lógica de cálculo de las empresas al comprar software ha cambiado por completo.

Anteriormente, los clientes elegían software principalmente por “si tenía todas las funciones y si la interfaz era atractiva”. Pero en el futuro, con la conciencia creciente de los directivos sobre la soberanía de los datos, su primer criterio para comprar será: “¿Puedes jurar que mis datos no saldrán bajo ninguna circunstancia?”.

Esto significa que "la seguridad absoluta" se convertirá en el atributo más escaso y valioso en la próxima generación de servicios empresariales.

Las SaaS ligeras que no poseen un cierre técnico propio y solo actúan como “megáfonos” para modelos de gran tamaño perderán rápidamente el favor de los clientes corporativos. Por otro lado, los proveedores que puedan trasladar la capacidad de cómputo de IA a las instalaciones de sus clientes y resolver cuentas confusas dentro de sus propios sistemas no solo recuperarán la absoluta confianza de sus clientes, sino que también podrán reivindicar con firmeza un alto poder de fijación de precios para sus productos, incluso en medio de una feroz guerra de precios en toda la industria.

Revelar tus cartas es un camino seguro hacia la muerte

Si no se resuelven desde la base los dos problemas fundamentales: “¿quiénes poseen qué datos?” y “¿por qué debería el jefe confiar en ti?”, el supuesto ecosistema próspero de IA nunca podrá trascender lo superficial y nunca llegará a tocar los negocios centrales de las grandes empresas.

En este juego entre grandes empresas, SaaS y clientes, nadie cederá voluntariamente lo que tiene. La ambición de las grandes empresas por los datos no cesará, y el límite mínimo de seguridad que exigen los clientes no se reducirá. Para los proveedores de SaaS, soñar con obtener tráfico de los gigantes entregando datos voluntariamente es un camino seguro hacia el fracaso.

En esta era, la ley de la jungla es extremadamente simple y directa: donde quieras que guardes tus datos, allí estará tu ventaja competitiva. En esta batalla silenciosa e invisible, proteger tu línea de datos es proteger la vida misma de la empresa.

Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información. Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.