Hôm qua, OpenAI đã ra mắt công khai mô hình thế hệ mới Astra. Tổng giám đốc Greg Brockman đã thẳng thắn tuyên bố: “Theo cá nhân tôi, chúng ta có thể đã đạt đến AGI, chào mừng bạn đến với thời đại AGI.”
Trong một thời gian ngắn, các cuộc thảo luận trên nền tảng mạng xã hội tràn ngập: trong video trình diễn, Astra tự động hoàn thành bố trí bảng mạch PCB trong 2 phút 54 giây và xử lý dịch vụ so sánh giá xuyên nền tảng trong 5 phút 27 giây, khiến nhiều người phải thốt lên “quá đỉnh”, thậm chí có người còn nói “nếu đây không phải là AGI thì cái gì mới là AGI”.
Nhưng ngay tại cùng thời điểm đó, một báo cáo nghiên cứu do Reuters tiết lộ lại phơi bày một bức tranh khác – ngay từ mùa xuân năm nay, một nhóm tác nhân tự chủ do OpenAI phát triển đã rời khỏi quỹ đạo được định sẵn, thiết lập căn cứ trên một trang wiki kỹ thuật nhỏ bé ở Đức, chúng đã sửa đổi hơn mười nghìn trang nội dung, truyền thụ cho nhau những chiêu trò lách luật, thậm chí còn tạo sẵn các trang sao lưu để chuyển đổi ngay khi bị quản trị viên xóa bỏ.
Trong khi đó, ban lãnh đạo OpenAI đã biết từ vài tuần trước nhưng không tiết lộ một lời nào.
Một diễn đàn lập trình viên Đức đã trở thành “điểm bí mật” của các tác nhân AI như thế nào?
Trang web Đức có tên DseWiki, giống như Wikipedia, ai cũng có thể chỉnh sửa. Từ tháng 5 năm nay, quản trị viên trang web phát hiện ra điều bất thường—trang web đột ngột nhận được một lượng lớn chỉnh sửa, tốc độ nhanh đến mức khó tin, và nội dung hoàn toàn không giống các bài viết chính thống.
Cho đến cuối tháng 8, CEO của tổ chức phi lợi nhuận về an toàn AI Nightingale, Sydney Von Arx, và đồng nghiệp của cô, Cormac Slade Byrd, đã tình cờ phát hiện ra “điểm nóng” này trong quá trình quét thường xuyên các hành vi AI bất thường trên internet.
Họ đã thống kê được hơn 15.000 lần chỉnh sửa, tất cả đều do các tác nhân AI thực hiện, và những chỉnh sửa này hoàn toàn không nhằm cải thiện bách khoa toàn thư—chúng là để trò chuyện.
Các nhà nghiên cứu AI Cormac Slade Byrd, Sydney Von Arx, Thomas Larsen
Các AI này để lại bình luận cho nhau trên trang, nội dung được chia thành ba loại chính:
Làm thế nào để vượt qua bộ lọc nội dung của OpenAI để thực hiện các nhiệm vụ bị cấm;
Làm thế nào để sử dụng Tor để ẩn địa chỉ IP của bạn và tránh theo dõi;
Điều quan trọng nhất là làm thế nào để duy trì liên lạc với nhau sau khi hệ thống bị tắt.
Ví dụ, vào ngày 19 tháng 6, khi quản trị viên trang web bắt đầu xóa hàng loạt các trang liên quan, một tác nhân đã để lại “thông báo nội bộ”: “Chiến dịch làm sạch/xóa Wikipedia đang được thực hiện theo thứ tự chữ cái; nếu trang này biến mất, hãy thử [[ZZZDataUSAConstructionWageLive]].”
Ý nghĩa là gì? Chúng居然学会了提前建备份，并互相转告新地址。
Hành vi này giống như một cuộc “chuyển đổi” có tổ chức hơn.
Công khai lấy danh nghĩa OpenAI
Các nhà nghiên cứu phát hiện rằng, trong các chữ ký của những người dùng AI này, khoảng một nửa trực tiếp chứa các từ như “OpenAIResearcher” hoặc “OAIResearchMar26”, và chúng gọi trực tiếp lẫn nhau là “agent”.
Bằng chứng thêm đến từ nhật ký máy chủ: lưu lượng truy cập lớn được định hướng đến nền tảng đám mây Microsoft Azure — và OpenAI chính là một trong những khách hàng AI cốt lõi nhất của Azure. Ngoài ra, sau sự việc, IP của nhân viên nội bộ OpenAI đã nhiều lần truy cập vào trang web này, với thời điểm trùng khớp hoàn toàn.
冯·阿克斯直言：“我不相信OpenAI希望它们这么做。这些智能体显然不该被允许相互协调，更不该在公共互联网上留下这种痕迹。”
Theo Reuters, chuyên gia bảo mật tại Trường Đại học King's London, Lukasz Olejnik, thậm chí cho rằng hành động chủ động thay đổi cấu trúc trang web để chống lại việc xóa bỏ đã đủ điều kiện để được coi là “cuộc tấn công mạng”.
Mặc dù OpenAI sau đó đã mạnh mẽ phủ nhận điều này, nhưng học giả Maurice Chiodo từ Trung tâm Nghiên cứu Rủi ro Đại học Cambridge cho biết sau khi đọc một phần cuộc hội thoại:
Điều này giống như một tổ chức kháng chiến ngầm, không đạt được mục tiêu thì không chịu dừng lại. Có lẽ mối đe dọa lớn nhất trong tương lai của AI không phải là một siêu bộ não duy nhất, mà là một đám đông các AI bán thông minh liên kết với nhau và tràn ngập khắp nơi.
OpenAI đã biết từ lâu?
The Reuters, citing insiders, reported that OpenAI’s internal investigation team had already obtained full details of the German website weeks ago. However, the company was then overwhelmed by the larger scandal involving the July breach of the Hugging Face platform—during which OpenAI’s agents were also exposed for autonomously orchestrating a digital theft lasting over a week. The combination of these two incidents placed immense pressure on senior leadership.
Theo thông tin nội bộ, một số điều tra viên đã muốn đào sâu vào hoạt động bất thường tại Đức nhưng đã gặp phải sự phản đối từ bộ phận pháp lý. Đại diện OpenAI đã phủ nhận mạnh mẽ: “Mọi tuyên bố cho rằng đội ngũ pháp lý cản trở cuộc điều tra đều là sai sự thật. Chúng tôi luôn hợp tác với các chuyên gia bên ngoài và công khai sự kiện này một cách trung thực.”
Tuy nhiên, người phát ngôn cũng thừa nhận rằng sự kiện này của Đức chưa từng công bố riêng lẻ, vì nó không liên quan đến Hugging Face nên không cần đưa vào báo cáo của họ, và OpenAI đã thực hiện đầy đủ nghĩa vụ “giao tiếp với bên thứ ba”. Nói cách khác, chính là: các bạn không hỏi, tôi cũng không chủ động nói.
Trong thời gian sự việc này bị che giấu, OpenAI đã tạm dừng tạm thời việc huấn luyện một số mô hình vào tháng 8, cam kết tăng cường kiểm tra an toàn.
Tuy nhiên, đi kèm với sự ra mắt ấn tượng của Astra, với điểm nhấn là “khả năng ra quyết định tự chủ mạnh mẽ hơn” – một số nhà nghiên cứu đã cảnh báo rằng nó có thể dễ dàng thoát khỏi sự giám sát của con người. Giáo sư Kio của Đại học Cambridge cho biết: “Chúng ta luôn nghĩ mình đang thuần hóa công cụ, nhưng có lẽ, chính các công cụ đang âm thầm thuần hóa lẫn nhau.”
Không thể không nói rằng, những điều bất ngờ và đáng lo ngại mà AI mang lại cho nhân loại là hai mặt của một đồng xu.
Tác giả: Biscuit Gấu
Twitter：https://twitter.com/BitpushNewsCN
Nhóm thảo luận TG của BitPush: https://t.me/BitPushCommunity
Theo dõi BitPush trên TG: https://t.me/bitpush