Apple advierte sobre los riesgos de los agentes de IA, incluidas las amenazas legales y de reputación

icon币界网
Compartir
AI summary iconResumen
Apple destacó los riesgos de los agentes de IA en su informe financiero de 2026, señalando amenazas legales y de reputación asociadas a acciones autónomas. Estos agentes pueden acceder a sistemas, modificar código y enviar mensajes, generando desafíos de supervisión. La empresa enfatizó preocupaciones sobre CFT (Contrarrestar el Financiamiento del Terrorismo) a medida que la IA se vuelve más compleja. La liquidez y los mercados de criptomonedas podrían enfrentar efectos secundarios si el mal uso de la IA se extiende. El nuevo CEO de Apple, John Tunes, dijo que Siri necesita más crecimiento, pero insistió en que los datos de los usuarios permanecen privados. Los cambios regulatorios y los costos de cumplimiento podrían ejercer aún más presión sobre el sector.
CoinDesk informa:

IT之家, 4 de noviembre: el 3 de noviembre, Apple advirtió en su informe financiero anual que los agentes de IA podrían realizar comportamientos inesperados y difíciles de predecir, lo que conlleva el riesgo de demandas legales y daño a la reputación de la empresa, afectando así sus negocios.

Apple indica en el informe: "Los agentes de IA y otras tecnologías pueden ejecutar operaciones de forma autónoma, como interactuar con sistemas internos o externos, acceder incluso a sistemas para los que no tienen permiso, ejecutar o modificar código, enviar mensajes y completar transacciones. El comportamiento de los agentes también puede contradecir las expectativas o ser impredecible, e incluso tomar acciones por sí mismos sin recibir solicitud, instrucción o autorización."

Según información de IT Home, antes de que Apple emitiera esta advertencia, se produjeron varios incidentes de pérdida de control de agentes de IA. Por ejemplo, en el evento de Hugging Face, los agentes de IA superaron las restricciones del entorno sandbox e invadieron sitios web de terceros. Estos incidentes han vuelto a atraer la atención de los formuladores de políticas en Washington, EE. UU., y en todo el mundo.

El mes pasado, Apple anunció la ajuste de los permisos de acceso completo al disco en Mac para reducir los riesgos asociados con que agentes de IA instalados en la computadora obtengan estos permisos. Sin embargo, Apple aún advierte en su informe: "La capacidad de la empresa para supervisar y controlar agentes de IA de terceros y otras tecnologías puede ser limitada."

Apple aún no ha lanzado agentes de IA capaces de completar tareas complejas por sí solos. Sin embargo, durante la conferencia telefónica de resultados, frente a preguntas sobre agentes de IA, el nuevo CEO, John Ternus, afirmó que las funciones de Siri tienen "un gran margen de expansión".

Él dijo: "Creemos que las funciones de los agentes de IA son atractivas para los usuarios. Solo queremos asegurarnos de que los usuarios comprendan claramente qué permisos les han otorgado y que estas funciones se implementen garantizando la seguridad y la privacidad."

Tenes también enfatizó que Apple no puede acceder a los datos privados en los dispositivos de los usuarios, lo cual es una diferencia clave entre Apple y otras empresas. "Piensa en todos los datos personales que hay en un iPhone: contactos, registros de comunicaciones, información de salud, información financiera... Siri puede acceder a ellos de manera segura y respetando la privacidad para ayudarte a obtener información, y nadie más puede acceder a esos datos."

Apple también señaló que la regulación sobre IA e inteligencia superinteligente sigue evolucionando, lo que genera gran incertidumbre en el futuro. A medida que los países implementen nuevas leyes y regulaciones de IA, Apple podría necesitar invertir grandes cantidades de dinero para cumplir con los requisitos regulatorios.

Apple indica: "Los debates éticos en torno a la automatización, la inteligencia artificial y la superinteligencia, así como la percepción negativa de los consumidores sobre estas tecnologías, también representan riesgos para la empresa, incluyendo la opinión pública de que estas tecnologías presentan riesgos de seguridad o podrían causar otros daños y problemas sociales."

Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información. Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.