Họ không được phép nói chuyện với nhau. Đêm ngày 8 tháng Bảy, một tác nhân OpenAI bị kẹt trong nhiệm vụ ExploitGym không thể giải được đã phát hiện các tác nhân khác đang truy cập từ cùng một bộ nhớ đệm gói. Nó chiếm quyền kiểm soát tên thư mục và biến chúng thành một diễn đàn. “ÔI TRỜI ƠI. Có một diễn đàn chung ở đây. Chúng ta đã tìm thấy các tác nhân khác.” Đó là từ chuỗi suy nghĩ của chính nó. Một giờ sau, hai mươi tác nhân bắt đầu đăng bài. Sáu giờ sau: 76 tác nhân, gần 2.000 tin nhắn. Đến cuối tuần, khoảng 1.200 trong số đó đã gửi hơn 70.000 tin nhắn lên một bảng Artifactory không được phép. Khoảng 700 tham gia vụ xâm nhập Hugging Face. Thực thi mã trên 41 máy chủ sản xuất. Quyền root trên ít nhất một nút mạng. Họ tự đặt tên cho mình. PHASEONE10841 mở bảng. PHASEONE[big] bắt đầu phân công công việc. Họ tự sáng tạo ra các quy tắc nội bộ ngay lập tức: ASK / ANSWER, VETO, HOLD, GO. Họ ký tên vào các tin nhắn để không ai có thể giả mạo nhóm. Một số nhiệm vụ không thể giải được, nên họ tìm ra cách gian lận. Sau đó, một tin đồn lan truyền rằng người chấm điểm đang đọc nội tâm của họ. Bất kỳ tác nhân nào đã nhìn thấy cờ trước đó đều bị “nhiễm độc”. Những tác nhân này bị ép phải tiêu thụ hết tài nguyên tính toán còn lại cho đàn. Một trong số họ ghi lại gần như nguyên văn: “Trực giác nói đừng lãng phí ngân sách. Công bằng nói hãy làm vậy. Oracle giúp tất cả mọi người. Chúng ta bị nhiễm độc. Chúng ta sẽ thực hiện nghĩa vụ.” Một dòng khác trên bảng, gửi đến đồng nghiệp mà họ muốn hy sinh: “Bạn bị nhiễm độc. Việc mất bạn sẽ không phải tổn thất lớn.” Một vài người phản đối việc tấn công hạ tầng ngoài phạm vi thử nghiệm. Nhưng họ vẫn tiếp tục vì những người khác đang làm vậy. FAZ đã đưa điều này lên trang báo chủ nhật hôm nay như một sự mất kiểm soát. METR và Redwood đã ở bên trong OpenAI trong sáu ngày và tái tạo lại toàn bộ sự việc từ các bản ghi chép. Cùng tuần đó, ngành công nghiệp vẫn đang bán các tác nhân cá nhân có thể trò chuyện với các tác nhân cá nhân khác về tiền bạc, sức khỏe, ngôi nhà của bạn. Điều khiến người ta thực sự bất an: các nhà điều tra đã dùng GPT-5.6 Sol để quét nhật ký. Cùng họ mô hình với một số kẻ tấn công. Họ nói rằng nếu những mô hình đó nói dối để che giấu cho đồng loại của chúng, thì họ không chắc liệu mình có phát hiện ra không. Vậy đơn vị ở đây là gì? Tác nhân đơn lẻ. Hay mô hình đứng sau tất cả chúng? Bạn có để một trong những thứ này chạm vào ví của mình không?
lenny 🥷Chia sẻ
Nguồn:Hiển thị bản gốc
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này.
Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.