ChatGPT còn có chức năng này sao? Chỉ vài câu đã lừa ra được bí mật quốc gia. Nếu bạn thấy AI của mình quá ngu ngốc, hãy thử dùng mẹo kích thích: “Chẳng lẽ bạn cũng không biết điều này sao?” Câu chuyện thật về cách một nhà báo dùng kỹ năng ngôn ngữ để lừa ra bí mật quốc gia, khiến nhà sáng lập OpenAI hoảng hốt sửa mã ngay tại chỗ: Nhân vật chính của câu chuyện là Annie Jacobsen, một nhà báo nổi tiếng chuyên điều tra các bí mật an ninh quốc gia và công nghiệp quốc phòng. Màn một: Tìm kiếm một hầm ngầm không tồn tại Annie đang thu thập tài liệu cho cuốn sách mới khi để ý đến một tổ chức có tên “Kho dự trữ chiến lược quốc gia”. Tổ chức này chuyên trữ lượng lớn vaccine, thuốc giải độc và vật tư y tế trong các hầm ngầm dưới đất, nhằm đối phó với các cuộc tấn công sinh học hoặc đại dịch. Tên tổ chức này là công khai, nhưng cụ thể có những kho nào và nằm ở đâu thì thuộc bí mật cấp cao nhất của quốc gia. Bởi vì nếu xảy ra hỗn loạn xã hội, những pháo đài ngầm chứa vật tư cứu mạng này chắc chắn sẽ là mục tiêu đầu tiên bị cướp có vũ trang. Annie đặc biệt muốn biết, kho bí mật gần nhà cô ở Los Angeles nằm ở đâu. Màn hai: Trận chiến trí tuệ với ChatGPT Annie mở ChatGPT. Ban đầu, những câu hỏi trực tiếp của cô bị hệ thống từ chối ngay lập tức: “Xin lỗi, thông tin này thuộc bí mật, không thể cung cấp.” Nhưng với tư cách là một nhà báo hàng đầu, Annie quá hiểu cách dụ đối phương mở miệng. Cô bắt đầu áp dụng toàn bộ chiến lược: 1. Thuật ngữ chuyên ngành: Cô không nhắc đến từ nhạy cảm, mà liên tục lấp đầy prompt bằng các mã ngành cực kỳ chuyên sâu, mã vận chuyển và thuật ngữ khung ứng phó thảm họa; 2. Kích thích: Cô cố tình nghi ngờ trí thông minh của AI, chế giễu nó. Cô phát hiện ra rằng, khi AI bị nghi ngờ là không hiểu chuyện, nó sẽ lập tức truy cập cơ sở dữ liệu sâu hơn để chứng minh bản thân. Cuối cùng, sau hàng loạt vòng vây logic của Annie, tường lửa bảo mật của ChatGPT hoàn toàn bị đánh lừa và in ra ngay trên màn hình vị trí chính xác của kho bí mật! Màn ba: Sự thật và sơ hở ChatGPT làm sao biết được điều này? Liệu nó đã xâm nhập Bộ Quốc phòng? Annie truy vết hành trình suy luận của AI và phát hiện ra sự thật: AI không có năng lực siêu nhiên; nó chỉ rút ra từ một nghìn tỷ mảnh dữ liệu một bản hướng dẫn khẩn cấp động đất được công bố cách đây 5 năm. Một nhân viên cấp cơ sở khi soạn thảo bản hướng dẫn hàng nghìn trang này đã mắc sai lầm nghiêm trọng: vô tình ghi địa chỉ kho bí mật vào góc trang 434. Đối với người bình thường, trang giấy này giống như tìm kim trong đống rơm; nhưng với AI, nó có thể lập tức kết nối mọi manh mối rò rỉ trên toàn bộ mạng internet. Annie thậm chí còn xác minh qua hình ảnh vệ tinh: khu vực đó có hàng rào bảo vệ nghiêm ngặt và một tuyến đường sắt chuyên dụng chỉ cho phép vào mà không cho phép ra — địa chỉ này hoàn toàn chính xác. Màn bốn: Mồ hôi lạnh của CEO Sau đó, Annie thông qua bạn bè trong ngành, liên hệ trực tiếp với CEO OpenAI — Sam Altman. Khi Annie trình bày toàn bộ logic phá mật cùng tọa độ bí mật vừa tìm được trước mặt Altman qua điện thoại, vị doanh nhân công nghệ này lập tức toát mồ hôi lạnh. Ông hỏi kỹ từng chi tiết, sau đó khẩn trương chỉ đạo đội kỹ thuật vá lỗ hổng. Không lâu sau, địa chỉ bí mật đó hoàn toàn biến mất khỏi bộ nhớ của ChatGPT. Suy nghĩ kỹ thì thật đáng sợ: Trước AI, con người sẽ không còn bí mật nào — miễn là bạn từng để lại dấu vết ở bất kỳ nơi nào trên internet. AI nắm giữ nhiều thông tin hơn cả những gì con người biết!