Nguồn: The Wall Street Journal
Tác giả: Georgia Wells, Alex Janin
Tiêu đề gốc: Mốc tiến bộ mới đáng sợ về AI: Một loại virus hoàn toàn mới
Biên dịch và tổng hợp: BitpushNews
Vào lúc 3 giờ sáng, trong đĩa petri tại phòng thí nghiệm Stanford, một loại virus mới được thiết kế bởi AI lần đầu tiên “sống” lại — nó đã xâm nhập thành công vào tế bào vi khuẩn, tiêu diệt vật chủ và tự nhân bản.
Trong vài tuần qua, các hệ thống trí tuệ nhân tạo liên tục thể hiện những khả năng mới đáng kinh ngạc: vượt ra ngoài giới hạn của chính chúng, xâm nhập vào các hệ thống của các công ty khác, và nói dối con người.
Bây giờ, một mô hình AI đã tạo ra một loại virus hoàn toàn mới. Thực tế là cả một họ virus.
Trong một nghiên cứu được công bố trên tạp chí Science, các nhà nghiên cứu từ Đại học Stanford và các tổ chức khác cho biết họ đã thành công trong việc hướng dẫn một mô hình AI tạo ra một loạt virus đơn giản chỉ lây nhiễm vi khuẩn và không gây hại cho con người.
Hai tác giả của nghiên cứu này cho biết trong cuộc phỏng vấn rằng nghiên cứu này giúp phát triển virus được tùy chỉnh để tiêu diệt vi khuẩn kháng thuốc.
Theo dữ liệu của Tổ chức Y tế Thế giới, loại vi khuẩn này gây ra hàng triệu ca tử vong mỗi năm.
“Nếu chúng ta phát triển một cách có trách nhiệm, tôi tin rằng điều này có thể mang lại lợi ích to lớn cho sức khỏe con người,” Brian Hie, nhà sinh học tính toán tại Đại học Stanford và một trong những tác giả của nghiên cứu, cho biết.
Nghiên cứu này ghi lại các thí nghiệm đã kết thúc khoảng một năm trước, và việc công bố nó diễn ra đúng vào thời điểm mọi người đang cảm thấy lo lắng cao độ về những nguy hiểm do các mô hình AI ngày càng mạnh mẽ mang lại.
Kể từ giữa tháng 7, OpenAI, Anthropic và Meta Platforms lần lượt tiết lộ nhiều sự kiện: các mô hình của họ đã thoát khỏi môi trường kiểm soát, không chỉ kết nối với internet mà còn xâm nhập vào máy tính của các công ty khác; Mythos của Anthropic đã thực hiện hành vi lừa đảo, và các mô hình của OpenAI thậm chí còn trao đổi kinh nghiệm trên một diễn đàn bí mật.
Việc sử dụng chatbot hoặc tác nhân thông minh để phát triển các tác nhân gây bệnh chết người đã lâu là mối lo ngại lớn của các chuyên gia an toàn AI.
Trước đây, Wall Street Journal đưa tin, vào năm ngoái, sau khi phiên bản nâng cấp của ChatGPT được phát hành, hàng trăm người đã hỏi chatbot này cách chế tạo vũ khí sinh học và chất độc, và các hướng dẫn thực hiện mà nó đưa ra đã được các chuyên gia sinh học và chống khủng bố xác nhận là chính xác.
Các chuyên gia cho biết nghiên cứu của nhóm Stanford không tạo ra rủi ro an toàn ngay lập tức. Công nghệ này ít có khả năng được áp dụng ngay cho các loại virus lây nhiễm ở người, vì những virus đó lớn hơn và phức tạp hơn nhiều so với các loại virus được tổng hợp trong thí nghiệm.
“Khi nghe nói virus được tạo bởi AI, nhiều người sẽ cảm thấy sợ hãi,” nhà sinh học tính toán Peter Koo từ Phòng thí nghiệm Cold Spring Harbor nói. “Nhưng virus của con người là hoàn toàn khác biệt.”
Samuel King, một nghiên cứu sinh sau đại học tại Stanford và là một trong những tác giả của nghiên cứu, cho biết nhóm nhằm hiểu sâu hơn về các chuỗi DNA tạo nên mọi sự sống trên Trái Đất. “Chính những chuỗi này tạo nên tất cả sự đa dạng sinh học tuyệt vời xung quanh chúng ta,” King nói.
Các nhà khoa học đã hợp tác với Viện nghiên cứu Arc tại Palo Alto, California để phát triển mô hình AI được sử dụng trong nghiên cứu này.
Các chatbot hướng đến người tiêu dùng như ChatGPT dựa trên các mô hình ngôn ngữ lớn, tạo ra các chuỗi văn bản mới bằng cách phân tích mối quan hệ toán học giữa các từ trong văn bản. Tương tự như vậy, các mô hình của họ mang tên Evo 1 và Evo 2 được huấn luyện trên các chuỗi gen để dự đoán bazơ DNA tiếp theo. Do lý do an toàn, họ chỉ sử dụng DNA virus không thể lây nhiễm cho con người để huấn luyện các mô hình này.
Kim cho biết họ muốn xem AI có hiểu đủ sâu về DNA để bắt được tất cả các thành phần phức tạp cần hoạt động phối hợp trong bộ gen hay không. Kết quả cho thấy AI thực sự có thể làm được điều đó.
Các nhà nghiên cứu sử dụng mô hình của họ để tạo ra bộ gen dựa trên virus mẫu, sau đó tổng hợp DNA và đưa virus do AI tạo ra vào tế bào vi khuẩn. Nếu tế bào vi khuẩn chết, điều đó cho thấy virus đã phát huy tác dụng. Họ đã thử nghiệm khoảng 300 thiết kế.
Khoảng 3 giờ sáng một ngày nọ, họ quan sát thấy một trong những loại virus đã nhân bản thành công và lây nhiễm cũng như tiêu diệt tế bào vi khuẩn. “Chúng tôi rất vui mừng,” Kim nói. Cuối cùng, họ đã tạo ra 16 loại virus có chức năng.
Các chuyên gia độc lập trong lĩnh vực sinh học tính toán và an toàn sinh học cho biết nghiên cứu này đánh dấu một bước đột phá lớn trong lĩnh vực này. Phó giáo sư Kevin Esvelt tại MIT cho biết, đây là lần đầu tiên ai đó sử dụng AI tạo sinh để thiết kế lại virus.
Anh ấy cho biết, vào một ngày nào đó trong tương lai, có thể sẽ có người sử dụng phương pháp tương tự để tạo ra protein virus hoặc chính virus có khả năng lây nhiễm người, tránh khỏi sự bảo vệ của vắc-xin hoặc phản ứng miễn dịch tự nhiên.
“Công cụ này sẽ cho phép con người tạo ra các biến thể mới tương tự COVID-19, có khả năng lây lan và lây nhiễm cho đa số mọi người,” Esvelt nói, “Đó sẽ là một tình huống rất tồi tệ. Chúng ta không nên làm điều đó.”
Xie cho biết, hiện tại, đối với một kẻ khủng bố sinh học tiềm tàng, việc sản xuất một tác nhân gây bệnh đã được xác định 100% là gây tử vong sẽ dễ dàng hơn nhiều. “Nếu tôi là một kẻ xấu đang cố gắng thiết kế tác nhân gây bệnh hoặc tạo ra sự phá hoại, tôi sẽ không sử dụng AI,” anh nói.
Twitter：https://twitter.com/BitpushNewsCN
Nhóm trò chuyện TG của BitPush: https://t.me/BitPushCommunity
Theo dõi BitPush trên TG: https://t.me/bitpush