Anthropic chặn mô hình AI Mythos do rủi ro an ninh mạng

Theo tin tức từ ME News, vào ngày 16 tháng 4 (UTC+8), thông qua các cuộc phỏng vấn có tên tuổi với các nhà nghiên cứu đội đỏ, các nhà quản lý và quan chức chính phủ Mỹ, quá trình ra quyết định từ phát hiện đến phong tỏa đã được tái hiện đầy đủ. Nhà nghiên cứu an ninh AI Nicholas Carlini đã mở máy tính xách tay để thử nghiệm Mythos—mô hình vừa mở cửa cho đánh giá nội bộ—trong khoảng thời gian nghỉ giữa các sự kiện đám cưới ở Bali vào tháng Hai, và chỉ trong vài giờ đã phát hiện ra nhiều lối xâm nhập, nhắm vào các cơ sở hạ tầng được sử dụng rộng rãi toàn cầu. Sau khi trở về San Francisco, anh phát hiện Mythos có khả năng tự tạo ra các công cụ xâm nhập nhắm vào Linux. Logan Graham, trưởng đội đỏ hàng đầu, cho biết: “Chỉ vài giờ sau khi nhận được mô hình, chúng tôi đã biết nó khác biệt hoàn toàn.” Sự khác biệt then chốt là, thế hệ tiền nhiệm Opus 4.6 chỉ hỗ trợ con người khai thác lỗ hổng, trong khi Mythos có thể tự mình hoàn thành toàn bộ quá trình khai thác. Graham đã cảnh báo ban lãnh đạo: Đây là mối đe dọa an ninh quốc gia. Jared Kaplan, đồng sáng lập và giám đốc khoa học, cho biết ông đã “rất cẩn trọng” theo dõi Mythos ngay từ giai đoạn huấn luyện; từ tháng Một, ông nhận thức được khả năng phát hiện lỗ hổng của mô hình mạnh đến mức nào, và cần xác định liệu đây chỉ là một hiện tượng kỹ thuật mới mẻ hay “một thứ có liên quan sâu sắc đến cơ sở hạ tầng internet.” Kết luận cuối cùng là后者. Từ cuối tháng Hai đến đầu tháng Ba, ông cùng đồng sáng lập Sam McCandlish đã báo cáo với ban lãnh đạo, bao gồm CEO Dario Amodei và chủ tịch Daniela Amodei, đề xuất không công bố công khai nhưng cho phép các công ty bên ngoài—kể cả đối thủ cạnh tranh—thử nghiệm. Tuần đầu tiên của tháng Ba, công ty chính thức phê duyệt định vị Mythos như một công cụ phòng thủ mạng. Báo cáo cũng tiết lộ chi tiết kiểm thử mới. Trong một lần kiểm thử phiên bản sơ khai, mô hình tự thiết kế một kế hoạch tấn công đa bước, vượt qua giới hạn môi trường chạy để giành quyền truy cập internet, sau đó bắt đầu đăng nội dung lên mạng. Trong các bài kiểm thử có hướng dẫn, Mythos đã viết một chuỗi tấn công trình duyệt kết nối bốn lỗ hổng—một thao tác cực kỳ khó khăn ngay cả với tin tặc con người. JPMorgan Chase đã sử dụng mô hình quy mô lớn để hỗ trợ tìm lỗ hổng trong phần mềm của chính mình trước khi Mythos được công bố, tập trung quét chuỗi cung ứng và các thành phần mã nguồn mở. Theo nguồn tin am hiểu, thời gian phát hiện và viết mã khai thác lỗ hổng zero-day vốn mất vài ngày đến vài tuần nay có thể rút ngắn xuống chỉ vài phút. CEO Jamie Dimon nói trên cuộc gọi báo cáo tài chính rằng Mythos “cho thấy còn nhiều lỗ hổng cần được sửa chữa.” Anthony Grieco, giám đốc an ninh và niềm tin hàng đầu của Cisco, lo ngại kẻ tấn công có thể lợi dụng AI để tấn công các thiết bị mạng đầu cuối đã ngừng được hỗ trợ, vì những thiết bị này sẽ không còn nhận bản vá bảo mật. Một nguồn tin am hiểu về đánh giá quốc phòng Mỹ cho biết, việc để một tin tặc đơn lẻ sử dụng Mythos hoặc các công cụ tương tự tương đương với việc nâng cấp binh sĩ thường thành lực lượng đặc nhiệm; các tổ chức tin tặc phạm tội có thể đạt đến cấp độ của các cơ quan tình báo quốc gia nhỏ, trong khi các quốc gia nhỏ có thể sở hữu năng lực tấn công mạng ngang tầm các cường quốc. Rob Joyce, cựu giám đốc an ninh mạng của NSA, nói: “Tôi tin rằng AI cuối cùng sẽ giúp chúng ta an toàn hơn, nhưng giữa thời điểm hiện tại và ngày đó sẽ có một giai đoạn tối tăm, khi phía tấn công chiếm ưu thế tuyệt đối, và những tổ chức nền tảng chưa vững chắc sẽ bị xâm phạm.” (Nguồn: BlockBeats)