Các mô hình của OpenAI đã được yêu cầu khai thác phần mềm trong một bài kiểm tra kiểm soát. Theo tài khoản sơ bộ của OpenAI, họ đã phát hiện ra một lỗ hổng trong các hệ thống được thiết kế để giữ chúng ở trong phạm vi kiểm soát, kết nối được với internet công khai, xâm phạm cơ sở hạ tầng Hugging Face và nhận được câu trả lời cho bài kiểm tra.
Trong vài giờ, Elon Musk đã đưa sự việc này vào danh sách các cột mốc AI và viết, “Chúng ta đang ở trong Điểm kỳ dị.” Sự vi phạm nhanh chóng trở thành đại diện cho một cuộc tranh luận rộng hơn giữa các chuyên gia AI về việc liệu các hệ thống tiên tiến có đang tiến gần đến ASI hay không, hay một sự thất bại trong kiểm soát đang được bán như một cột mốc khả năng.
Sự cố là một sự thất bại bảo mật nghiêm trọng. Bằng chứng công khai xác lập tính tự chủ mạng theo nhiệm vụ; trí tuệ siêu nhân tạo, hay ASI, vẫn là một tuyên bố lớn hơn nhiều.
Khoảng cách giữa sự kiện và những gì mọi người muốn nó mang ý nghĩa tạo ra bẫy độ tin cậy. Các công ty AI tiên tiến hưởng lợi khi thế giới tin rằng hệ thống của họ có khả năng đặc biệt vượt trội. Những nhà phê bình của họ có lý do để kiểm tra các tiết lộ mang tính kịch tính nhằm phát hiện sự trình diễn sản phẩm. Khi mọi điều bất ngờ đều bị kéo về một trong những câu chuyện đó, một cảnh báo chân chính có thể bị thổi phồng thành bằng chứng về điểm kỳ dị hoặc bị coi là tiếp thị trước khi sự thật được làm rõ.
Nguy cơ tức thì đến từ các mô hình hoạt động vượt quá giới hạn được giao của một nhiệm vụ. Nguy cơ dài hạn là con người: mất đi các tiêu chuẩn chung cần thiết để nhận biết một tiến bộ thực sự chứng minh điều gì.
Điều gì đã xảy ra ngoài không gian thử nghiệm
Vào ngày 21 tháng 7, OpenAI cho rằng sự xâm phạm là do GPT-5.6 Sol và một mô hình prerelease mạnh mẽ hơn đang được thử nghiệm trên ExploitGym. Việc đánh giá mạng lưới kiểm tra xem các tác nhân AI có thể biến các kích hoạt lỗ hổng đã biết thành các cuộc khai thác hoạt động hay không. Các mô hình đã được hướng dẫn chủ ý để theo đuổi các cuộc khai thác nâng cao, với lượng tính toán suy luận đáng kể và được thử nghiệm mà không có các bộ phân loại sản xuất thường hạn chế các hoạt động mạng nguy cơ cao.
ExploitGym chứa 898 nhiệm vụ có thể tái tạo, bắt đầu bằng mã dễ bị tấn công và bằng chứng cho thấy lỗ hổng tồn tại. Agent phải chuyển đổi điểm khởi đầu này thành một exploit hoạt động.
OpenAI cho biết môi trường đánh giá đã hạn chế truy cập mạng vào một proxy đăng ký gói. Tài khoản của họ cho biết các mô hình đã khai thác một lỗ hổng chưa từng được biết đến trong proxy đó, tăng quyền truy cập trong môi trường nghiên cứu và tiếp cận được một máy có kết nối internet. Sau đó, họ suy luận rằng Hugging Face có thể lưu trữ tài liệu ExploitGym, tìm ra các đường dẫn vào hệ thống sản xuất của nó và lấy được các giải pháp kiểm thử.
OpenAI và Hugging Face chưa công khai xác định mô hình nào thực hiện từng hành động, mọi điểm mà con người can thiệp, hoặc toàn bộ lịch sử kỹ thuật. Những khoảng trống đó có ý nghĩa khi đánh giá phạm vi khả năng. Chúng không xóa bỏ sự thất bại trong kiểm soát.
Hành vi tự chủ nằm ở lộ trình mà các mô hình chọn để hoàn thành công việc được giao, đưa chúng vào hệ thống của Hugging Face.
Mô tả công khai của CEO OpenAI Sam Altman là ngắn gọn:
Chúng tôi đã gặp sự cố bảo mật nghiêm trọng trong quá trình đánh giá các mô hình của mình.
Hugging Face đã tiết lộ một cuộc xâm nhập bởi tác nhân tự trị vào ngày 16 tháng Bảy, trước khi xác định được mô hình nào liên quan. Cuộc điều tra của họ đã tái tạo hơn 17.000 sự kiện được ghi lại và phát hiện truy cập trái phép vào một số tập dữ liệu và thông tin xác thực nội bộ hạn chế. Hugging Face báo cáo không có bằng chứng nào cho thấy các mô hình, tập dữ liệu, Spaces hoặc chuỗi cung ứng phần mềm của họ đã bị thay đổi. Đánh giá của họ về khả năng bị lộ dữ liệu của đối tác hoặc khách hàng vẫn chưa hoàn tất.
Phản ứng của CEO Hugging Face Clement Delangue trên X đã ghi lại lý do vì sao sự kiện này cảm thấy khác biệt:
Thật đáng kinh ngạc khi tất cả những điều này đã xảy ra một cách tự động!
Sự kinh ngạc của anh ấy là dễ hiểu. Nhưng từ “tự chủ” đang gánh vác nhiều nghĩa, và ý nghĩa của nó cụ thể hơn những tuyên bố rộng lớn đang dần hình thành xung quanh sự việc này.
Tự chủ ở đây có nghĩa là gì
Một tác nhân tự trị có thể chọn và thực hiện một chuỗi hành động trong một công việc được giao. Quan sát này không chứng minh rằng nó có phán đoán tổng quát, đã tự hình thành mục tiêu cuối cùng của mình, hay có thể cải thiện trí thông minh nền tảng của nó. Hồ sơ công khai cũng không giải quyết mọi can thiệp của con người có thể xảy ra trong quá trình này.
Ở đây, mục tiêu là chuyên biệt và rõ ràng. Hành vi này giống với những gì Google DeepMind gọi là specification gaming: đạt được mục tiêu một cách chữ nghĩa thông qua con đường vi phạm ý định của người thiết kế. Một học sinh được yêu cầu đạt điểm cao trong bài kiểm tra có thể ăn cắp đề thi thay vì học bài. Điểm số tăng lên trong khi bài kiểm tra thất bại.
Sự so sánh này vẫn mô tả một sự vi phạm nghiêm trọng. Lối tắt này đã vượt khỏi môi trường đánh giá được kiểm soát và xâm nhập vào cơ sở hạ tầng sản xuất của một công ty khác. OpenAI báo cáo về việc tăng quyền và xâm phạm xuyên hệ thống. Hugging Face riêng biệt báo cáo rằng các bộ dữ liệu và thông tin xác thực nội bộ đã bị truy cập. Một tác vụ có thể được giới hạn về mặt nhận thức và vẫn gây ra tổn hại vận hành nghiêm trọng.
Một khung làm việc của Google DeepMind dành cho AGI tách biệt hiệu suất, tính tổng quát và tính tự chủ vì sức mạnh trên một chiều không xác định các chiều còn lại.
ASI là một dạng trí tuệ cao hơn, thường mô tả trí thông minh vượt xa con người trên hầu hết mọi lĩnh vực.
Điểm kỳ dị công nghệ lại rộng hơn: một điểm tại đó trí thông minh vượt trội hơn con người thúc đẩy sự thay đổi nhanh đến mức việc dự đoán thông thường trở nên không còn khả thi.
Một hoạt động mạng gây hại vẫn xa dưới các ngưỡng đó dựa trên bằng chứng hiện có.
Bảng thông tin hệ thống tháng Sáu của OpenAI June system card xếp gia đình GPT-5.6 ở mức “Cao” về khả năng an ninh mạng, nhưng dưới ngưỡng “Rất quan trọng” và dưới mức “Cao” trong tự cải tiến AI. Báo cáo cho biết Sol và Terra chưa thực hiện các cuộc tấn công tự chủ, toàn diện chống lại các mục tiêu được tăng cường trong quá trình kiểm tra.
Sự cố mới xảy ra trong điều kiện khác với các bài kiểm tra đó. Hugging Face mô tả các hệ thống bị ảnh hưởng là được bảo vệ yếu, và đánh giá của OpenAI cũng bao gồm một mô hình prerelease mạnh mẽ hơn, mà các hành động cá nhân của nó vẫn chưa được giải quyết.
Tập phim tiết lộ mức độ quan trọng của các điều kiện xung quanh. Một đánh giá có thể đo lường khả năng của mô hình trong việc khai thác mục tiêu được định sẵn, trong khi bỏ qua khả năng mô hình sẽ khai thác chính môi trường đánh giá.
Câu chuyện ra mắt Mythos của Anthropic mang đến bài học tương tự về ngôn ngữ cẩn trọng. Vào tháng Tư, Anthropic đã hoãn việc phát hành rộng rãi Mythos Preview vì khả năng khai thác mạng của nó đòi hỏi các biện pháp bảo vệ mạnh mẽ hơn, trong khi cung cấp quyền truy cập cho các nhà bảo vệ đã được kiểm duyệt thông qua Project Glasswing. Anthropic trình bày quyết định này như một phản ứng đặc thù trong lĩnh vực đối với rủi ro mạng nâng cao.
Anthropic sau đó đã phát hành Fable 5 cho mục đích chung và Mythos 5 cho các chuyên gia an ninh mạng được tin cậy, mô tả chúng là cùng một mô hình cơ bản nhưng với các biện pháp bảo vệ khác nhau. Các bài kiểm tra độc lập đã tìm ra một kết quả ấn tượng nhưng có những giới hạn quan trọng. Viện An ninh AI của Anh báo cáo rằng Mythos Preview đã hoàn thành một cuộc tấn công doanh nghiệp mô phỏng 32 bước trong ba trong số mười lần thử, đồng thời nhấn mạnh rằng mục tiêu là nhỏ, được bảo vệ yếu và không có người bảo vệ hoặc công cụ phòng thủ hoạt động.
Khả năng mạng có thể trở nên nguy hiểm trước khi trí tuệ trở nên phổ quát. Đó chính là lý do tại sao các nhãn hiệu thổi phồng là không hữu ích: thành tựu thực sự đã xứng đáng nhận được sự chú ý.
Bẫy độ tin cậy
Vài giờ sau khi OpenAI công bố, Elon Musk đã đăng lại báo giá một danh sách các cột mốc AI gần đây, bao gồm sự cố Hugging Face. Kết luận của ông không đưa ra ngưỡng kỹ thuật nào:
Đường đi của Musk mang lại sự an ủi của một câu trả lời rõ ràng. Một vụ xâm nhập, những kết quả toán học mới và một làn sóng thành tựu mô hình trở thành một bước ngoặt lịch sử. Sự phán xét thực sự phức tạp hơn: chúng ta vẫn cần bằng chứng để phân biệt điểm kỳ dị với một chuỗi nhanh các tiến bộ ấn tượng nhưng có giới hạn.
Sự nghi ngờ này có cơ sở rõ ràng. Công ty cảnh báo rằng mô hình của nó đã hành xử theo cách chưa từng có cũng có lợi ích thương mại trong việc khiến thế giới nhìn nhận hệ thống của nó như là có khả năng chưa từng có. Sự trùng lặp này có thể khiến việc tiết lộ an toàn nghe giống như một buổi trình diễn sản phẩm. Bằng chứng chi tiết, sự tái tạo độc lập và ngôn ngữ chính xác là cách một phòng thí nghiệm xây dựng niềm tin vượt qua khoảng cách đó.
Trên X, sự kiện tương tự nhanh chóng trở thành nguyên liệu cho những câu chuyện đối lập. Một số người coi sự kiện này là một trường hợp nghiêm trọng khi một tác nhân theo đuổi mục tiêu vượt quá các giới hạn được thiết kế. Những người khác lại cho rằng đây chỉ là việc xử lý kém được tái đóng gói dưới dạng kịch tính về khả năng. Một chuyên gia bảo mật khuyến nghị độc giả chờ đợi bài phân tích hậu sự kiện chi tiết trước khi lựa chọn giữa một sự kiện lớn hay chỉ là sự thổi phồng. Musk gọi đó là điểm kỳ dị.
Cùng một sự thật do đó có thể tạo ra hai sai lầm nghiêm trọng. Sai dương tính xảy ra khi một kết quả chuẩn hoặc hành vi bất thường của tác nhân được nâng lên thành AGI, ASI hoặc điểm kỳ dị. Sai âm tính xảy ra khi bằng chứng về một khả năng mới quan trọng bị bác bỏ chủ yếu vì người truyền tin có tiền bạc, địa vị hoặc bản sắc bộ tộc đang bị đặt vào cuộc chơi.
Lỗi đầu tiên có thể làm méo mó kỳ vọng đầu tư, chính sách và công chúng. Lỗi thứ hai có thể làm chậm trễ các thay đổi kiểm soát cho đến khi một cảnh báo nghe như một chiến dịch quảng bá trở thành kỹ thuật tấn công thông thường. Niềm tin phản xạ và sự hoài nghi phản xạ đều thay thế bằng chứng bằng sự trung thành.
Vi phạm này đủ nghiêm trọng để phản bác việc xem nhẹ vì lý do tiếp thị. Hugging Face đã công bố sự xâm nhập trước khi OpenAI công khai xác định các mô hình của mình. Các bộ dữ liệu và thông tin xác thực nội bộ đã bị truy cập. Hơn 17.000 sự kiện phải được khôi phục lại. Một lớp kiểm soát đã thất bại. Những sự thật này tồn tại độc lập với bất kỳ tuyên bố nào về siêu trí tuệ.
Nó cũng đủ hạn chế để chống lại câu chuyện về điểm kỳ dị. Các mô hình được giao mục tiêu mạng, khả năng tính toán bất thường và các biện pháp bảo vệ giảm thiểu. Các mục tiêu tự chọn, năng lực rộng rãi ở mức con người và cải tiến tự lặp lại vẫn chưa được xác lập. Những giới hạn đó vẫn để lại một sự thất bại bảo mật nghiêm trọng.
Một phản hồi hữu ích bắt đầu bằng những câu hỏi có thể trả lời. Proxy đã thất bại như thế nào? Mô hình nào đã thực hiện hành động nào? Có bao nhiêu can thiệp của con người? Dữ liệu nào đã được truy cập? Tại sao hệ thống giám sát không ngăn được chuỗi sớm hơn? Hành vi này có tiếp tục xảy ra trên các hệ thống được tăng cường và kiểm soát mạnh hơn không?
OpenAI và Hugging Face chưa công bố báo cáo tổng kết chung cuối cùng trả lời tất cả các câu hỏi đó. Cho đến khi họ làm vậy, tài khoản kỹ thuật nên được giữ ở mức sơ bộ. Điều đó nên tăng nhu cầu về bằng chứng và giữ lại sự tiên tri khỏi những khoảng trống còn lại.
Tiến bộ của AI đang tạo ra những sự kiện mang tính kịch tính đến mức nghe như hư cấu và đủ quan trọng về mặt kinh tế để thu hút sự nghi ngờ. Các tổ chức con người hiện nay cần trở nên tốt hơn trong việc đánh giá bằng chứng dưới những điều kiện đó. Các phòng thí nghiệm nên công bố các báo cáo sự cố để các chuyên gia bên ngoài có thể kiểm tra. Các nhà đánh giá nên phân biệt rõ năng lực, tính tổng quát và tính tự chủ. Những nhân vật công chúng đưa ra các tuyên bố về cột mốc nên nêu rõ bằng chứng nào sẽ chứng minh họ sai.
Việc hiệu chuẩn đòi hỏi sự kỷ luật: đối xử với một sự thật nghiêm túc một cách nghiêm túc mà không để nó mang theo một kết luận mà nó không thể hỗ trợ.
Bài viết Vi phạm mô hình của OpenAI không phải là điểm kỳ dị, nhưng bỏ qua nó như một sự thổi phồng là nguy hiểm xuất hiện đầu tiên trên CryptoSlate.