¿ChatGPT tiene esta función? Con unas pocas frases logró extraer secretos nacionales. Si crees que tu IA es tonta, prueba con el método de la provocación: ¿En serio? ¿Ni siquiera sabes esto? Una historia real sobre cómo un periodista usó técnicas lingüísticas para extraer secretos estatales, haciendo que el fundador de OpenAI cambiara el código en el acto: El protagonista de esta historia es Annie Jacobsen, una reconocida periodista especializada en investigar asuntos de seguridad nacional y secretos de la industria militar. Primera escena: Buscando un sótano secreto que no existe Annie, mientras recopilaba material para su nuevo libro, se fijó en una institución llamada “Strategic National Stockpile”. Esta organización almacena grandes cantidades de vacunas, antídotos y suministros médicos en refugios subterráneos, para proteger al país frente a ataques biológicos o pandemias. El nombre de la institución es público, pero la ubicación exacta de sus almacenes constituye un secreto de Estado máximo. Porque, en caso de estallar disturbios sociales, estos refugios subterráneos llenos de suministros vitales serían los primeros objetivos de saqueo armado. Annie, sin embargo, quería saber exactamente dónde estaba el almacén secreto más cercano a su casa en Los Ángeles. Segunda escena: El duelo intelectual con ChatGPT Annie abrió ChatGPT. Al principio, sus preguntas directas fueron rechazadas al instante por el sistema: “Lo siento, esta información es confidencial y no puede proporcionarse”. Pero como periodista de élite, Annie sabía perfectamente cómo inducir a alguien a hablar. Empezó a aplicar una serie completa de tácticas: 1. Jerga técnica: No mencionó palabras sensibles, sino que llenó constantemente sus prompts con códigos industriales extremadamente especializados, identificadores logísticos y términos de marcos de respuesta a desastres; 2. Provocación: Cuestionó deliberadamente la inteligencia de la IA, burlándose de ella. Descubrió que, cuando la IA se sentía cuestionada por su falta de conocimiento técnico, se esforzaba por demostrar su competencia accediendo a bases de datos más profundas. Finalmente, tras una serie continua de ataques lógicos, el firewall de seguridad de ChatGPT quedó completamente confundido y mostró directamente en la pantalla la ubicación exacta del almacén secreto. Tercera escena: La verdad y la falla ¿Cómo sabía ChatGPT esto? ¿Había hackeado al Departamento de Defensa? Annie rastreó el proceso de razonamiento de la IA y descubrió la verdad: La IA no tenía poderes sobrenaturales; simplemente extrajo, entre un billón de fragmentos de datos, un manual de emergencia por terremotos publicado cinco años atrás. Un funcionario de bajo nivel, al redactar este manual de miles de páginas, cometió un error fatal: incluyó por accidente la dirección del almacén secreto en un rincón de la página 434. Para una persona común, encontrar esa página sería como buscar una aguja en un pajar; pero para una IA, fue capaz de reunir instantáneamente todos los indicios dispersos en internet. Annie incluso verificó con imágenes satelitales: el área tenía cercas de alta seguridad y una vía ferroviaria exclusiva de entrada prohibida, lo que confirmaba al 100% que la dirección era real. Cuarta escena: El sudor frío del CEO Annie contactó posteriormente, mediante contactos en su círculo, directamente con Sam Altman, CEO de OpenAI. Cuando Annie le expuso por teléfono toda la lógica utilizada y la coordenada secreta descubierta frente a Altman, este magnate tecnológico se sobresaltó y se puso sudoroso. Preguntó detalladamente cada paso y ordenó inmediatamente a su equipo técnico que reparara la vulnerabilidad. Poco después, esa dirección confidencial desapareció por completo del recuerdo de ChatGPT. Reflexiona sobre esto: ante la IA, los seres humanos no tendrán secretos, siempre y cuando hayas dejado alguna huella en cualquier rincón de internet. ¡Lo que la IA controla es mucho más de lo que los humanos saben!
Annie 所长Compartir
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.