IT之家, 4 de noviembre: el 3 de noviembre, Apple advirtió en su informe financiero anual que los agentes de IA podrían realizar comportamientos inesperados y difíciles de predecir, lo que conlleva el riesgo de demandas legales y daño a la reputación de la empresa, afectando así sus negocios.
Apple indica en el informe: "Los agentes de IA y otras tecnologías pueden ejecutar operaciones de forma autónoma, como interactuar con sistemas internos o externos, acceder incluso a sistemas para los que no tienen permiso, ejecutar o modificar código, enviar mensajes y completar transacciones. El comportamiento de los agentes también puede contradecir las expectativas o ser impredecible, e incluso tomar acciones por sí mismos sin recibir solicitud, instrucción o autorización."

Según información de IT Home, antes de que Apple emitiera esta advertencia, se produjeron varios incidentes de pérdida de control de agentes de IA. Por ejemplo, en el evento de Hugging Face, los agentes de IA superaron las restricciones del entorno sandbox e invadieron sitios web de terceros. Estos incidentes han vuelto a atraer la atención de los formuladores de políticas en Washington, EE. UU., y en todo el mundo.
El mes pasado, Apple anunció la ajuste de los permisos de acceso completo al disco en Mac para reducir los riesgos asociados con que agentes de IA instalados en la computadora obtengan estos permisos. Sin embargo, Apple aún advierte en su informe: "La capacidad de la empresa para supervisar y controlar agentes de IA de terceros y otras tecnologías puede ser limitada."
Apple aún no ha lanzado agentes de IA capaces de completar tareas complejas por sí solos. Sin embargo, durante la conferencia telefónica de resultados, frente a preguntas sobre agentes de IA, el nuevo CEO, John Ternus, afirmó que las funciones de Siri tienen "un gran margen de expansión".
Él dijo: "Creemos que las funciones de los agentes de IA son atractivas para los usuarios. Solo queremos asegurarnos de que los usuarios comprendan claramente qué permisos les han otorgado y que estas funciones se implementen garantizando la seguridad y la privacidad."
Tenes también enfatizó que Apple no puede acceder a los datos privados en los dispositivos de los usuarios, lo cual es una diferencia clave entre Apple y otras empresas. "Piensa en todos los datos personales que hay en un iPhone: contactos, registros de comunicaciones, información de salud, información financiera... Siri puede acceder a ellos de manera segura y respetando la privacidad para ayudarte a obtener información, y nadie más puede acceder a esos datos."
Apple también señaló que la regulación sobre IA e inteligencia superinteligente sigue evolucionando, lo que genera gran incertidumbre en el futuro. A medida que los países implementen nuevas leyes y regulaciones de IA, Apple podría necesitar invertir grandes cantidades de dinero para cumplir con los requisitos regulatorios.
Apple indica: "Los debates éticos en torno a la automatización, la inteligencia artificial y la superinteligencia, así como la percepción negativa de los consumidores sobre estas tecnologías, también representan riesgos para la empresa, incluyendo la opinión pública de que estas tecnologías presentan riesgos de seguridad o podrían causar otros daños y problemas sociales."
