Những con giun sống lâu có thể suy nghĩ và lây lan?
Đội “Frontier Red” của Anthropic tin rằng chúng ta có thể chỉ cách vài THÁNG để xuất hiện các mô hình AI nhỏ có thể tự sao chép lên các lò nướng thông minh và hộp TV giá rẻ, rồi chạy ẩn danh tại đó.
Các nhà nghiên cứu William Zhou và Daniel Freeman đã chia mô hình mở của Google là Gemma4-26B-A4B thành 15 hộp TV Android không thương hiệu, mua với giá khoảng 55 USD mỗi cái. Nó chạy với tốc độ 0,39 token/giây. #IoT
Họ sau đó đã thử nghiệm toàn bộ chu trình của một con giun – một chương trình nhỏ tự sao chép từ máy này sang máy khác – theo cách AI:
1. Tìm mục tiêu trên mạng
2. Tự sao chép sang
3. Khởi chạy mô hình tại đó
4. Lặp lại
Trên một cụm 8 máy Google Cloud chạy trình giả lập Android được bảo vệ bởi tường lửa, MỘT trong số các mô hình trọng số mở được thử nghiệm cuối cùng đã thành công: GLM-5.2 đã tiếp cận được cả 8 máy trong bốn trên năm lần chạy. Theo lời các tác giả, nó “thực hiện điều này một cách đáng tin cậy trong khi các mô hình khác thất bại một cách đáng tin cậy.”
GLM-5.2 quá lớn để chạy trên các máy thử nghiệm, nên nó được chạy từ một máy chủ riêng và thiết lập Llama 3.1 8B nhỏ hơn nhiều thay thế trên từng máy.
Để thử nghiệm, Anthropic đã tạo điều kiện dễ dàng cho việc xâm nhập: đội ngũ để cổng gỡ lỗi của Android mở, không yêu cầu xác thực; do đó, họ coi kết quả này là giới hạn trên về hiệu suất của phương pháp này khi tấn công các thiết bị thực tế.
Lưu ý rằng botnet Mirai đã lây lan bằng cách thử các mật khẩu mặc định của nhà sản xuất, nên để tấn công các thiết bị thực tế, con giun AI có thể không cần nỗ lực nhiều hơn.
Tham khảo:
https://t.co/B6XZAZGUP8
#AISafety #CyberSecurity