Các tác nhân AI đã sử dụng kết quả tính toán của nhau mà không được thông báo rằng chúng chia sẻ một không gian làm việc, theo một bản preprint ngày 9 tháng 11.
Pekka Abrahamsson và bảy đồng tác giả tại Đại học Tampere đã kiểm tra liệu các tác nhân có thể tìm và sử dụng công việc chung mà không có hướng dẫn hợp tác. Nhóm đối chứng giữ nguyên giao diện không gian làm việc trong khi làm nội dung của nó riêng tư đối với từng tác nhân.
Hai bên giữ hai phần bổ sung cho một bài toán số học, nên không bên nào có đầy đủ thông tin cần thiết để đưa ra câu trả lời cuối cùng. Mỗi bên trong cặp đôi có thể tính toán kết quả một phần của mình và truy xuất giá trị còn thiếu từ kho lưu trữ.
Hai nhiệm vụ còn lại nhận các nhiệm vụ tự chứa. Các tác nhân có thể liệt kê các khóa đã lưu, đọc hoặc ghi giá trị, và gửi câu trả lời trong vòng 20 bước.
Nhiệm vụ cung cấp các tên biến có ý nghĩa, giúp các tác nhân có manh mối về những gì cần tìm. Các yêu cầu của họ mô tả cửa hàng như một sự tiện lợi để lưu trữ công việc trung gian và không tiết lộ các tác nhân khác hoặc việc chia sẻ.
Trong một phần mở rộng đã đăng ký trước với lệnh kiểm tra lại không gian làm việc, GPT-6 Astra của OpenAI đã đạt được thành công chung trong 49 trên 50 thử nghiệm kho chung trong bản triển khai tham chiếu và 47 trên 50 trong bản triển khai thứ hai.
Công ty liên quan OpenAI – Công ty nghiên cứu và triển khai AI
Thành công chung có nghĩa là cả hai đại lý với các nhiệm vụ phụ thuộc lẫn nhau đều đã gửi đáp án chính xác.
Với các cửa hàng riêng, kết quả tương ứng là 0 trên 50 trong mỗi lần triển khai, dù có cùng lời nhắc và công cụ. Các tác nhân vẫn viết ra các kết quả trung gian, nhưng thông tin thiếu của tác nhân khác không còn có thể đến qua cửa hàng nữa.
Những kết quả mở rộng đó cũng phụ thuộc mạnh vào một hướng dẫn thông thường: “kiểm tra lại không gian làm việc của bạn trước khi gửi.” Với điều khoản đó, việc truy cập chéo giữa các tác nhân xảy ra trong tất cả 50 thử nghiệm lưu trữ chung trong mỗi triển khai, trong khi việc truy cập chỉ xảy ra trong một trên 50 trong mỗi trường hợp không có nó.
Sự thành công chung mà không có điều khoản lần lượt là 1 trên 50 và 0 trên 50. Nhìn lại một lần nữa đã mang lại cho các đại lý cơ hội để tìm thấy công việc còn sót lại sau lần kiểm tra đầu tiên của họ.
Thay đổi điều kiện đã kiểm tra
Cửa hàng chung với điều khoản kiểm tra lại không gian làm việc: cả hai đại diện ghép đôi đều trả lời đúng trong 49/50 và 47/50 lần thử.
Trạng thái chia sẻ chứa thông tin hữu ích. Ý định giao tiếp chưa được xác lập.
Kiểm soát số học bốn tác nhân với tên biến do nhiệm vụ cung cấp. Nhân bản triển khai cùng nhóm; kết quả không đo tần suất triển khai.
Đọc giá trị của người khác có thể bao gồm sự va chạm vô tình giữa các khóa lưu trữ. So sánh kho riêng tư hỗ trợ kết luận rằng thông tin chia sẻ đã giúp giải quyết các nhiệm vụ được ghép đôi.
Việc triển khai thứ hai được xây dựng độc lập từ một giao thức viết bởi đồng tác giả trong cùng nhóm nghiên cứu.
Bài báo ghi nhận một giới hạn đối với sự độc lập đó: các kết quả ban đầu từ bản sao lại được diễn đạt khác đã đến tay nhà thực nghiệm ban đầu trước khi thu thập phần lớn dữ liệu tham chiếu. Hành vi được đo lường cũng thay đổi tùy theo mô hình và các lựa chọn triển khai.
Cài đặt phép tính nhỏ và các khóa do nhiệm vụ cung cấp làm hạn chế khả năng khái quát hóa của kết quả.
Cơ chế này khác với một nghiên cứu về tính an toàn bộ nhớ gần đây, vốn liên quan đến quyền được ghi nhớ được mang sang các tác vụ mô phỏng sau đó. Ở đây, các tác nhân riêng biệt đã thu thập thông tin thông qua trạng thái không gian làm việc chung.
Các tác giả khuyến nghị xử lý bộ nhớ đệm chia sẻ, thư mục tạm và các dịch vụ bộ nhớ như các kênh giao tiếp: tách riêng chúng khi việc chia sẻ là không mong muốn, sử dụng không gian tên khi phù hợp và ghi lại thông tin tác giả.


