OpenAI đã phát hành Dawn vào thứ Hai, một chương trình an ninh mạng nhằm sử dụng trí tuệ nhân tạo để giúp các nhà phát triển và nhóm an ninh phát hiện lỗ hổng, xác minh bản vá và bảo vệ an toàn phần mềm nhanh hơn.
Thông báo này nhấn mạnh rằng các công ty trí tuệ nhân tạo đang ngày càng mở rộng sang lĩnh vực an ninh mạng, do các mô hình tiên tiến không ngừng cải tiến trong việc phân tích mã, phát hiện lỗ hổng phần mềm và tự động hóa các nhiệm vụ kỹ thuật, đánh dấu sự chuyển đổi trong lĩnh vực trí tuệ nhân tạo đang được mở rộng.
Tại Postal tại hội nghị X, Giám đốc điều hành OpenAI Sam Altman đã gọi Daybreak là “nỗ lực tăng tốc bảo vệ mạng và bảo vệ phần mềm liên tục”.
“Trí tuệ nhân tạo đã rất xuất sắc trong an ninh mạng và sắp trở nên cực kỳ xuất sắc; chúng tôi mong muốn bắt đầu hợp tác với càng nhiều công ty càng tốt ngay từ bây giờ để giúp họ liên tục bảo vệ an toàn cho mình,” Otterman viết.
OpenAI cho biết, Daybreak đã kết hợp mô hình AI của công ty với hệ thống tác nhân chuyên về mã hóa Codex, giúp các đội an ninh xem xét mã, phân tích phụ thuộc, mô phỏng mối đe dọa, xác minh bản vá và điều tra các hệ thống chưa quen thuộc. Công ty cho biết mục tiêu của họ là rút ngắn thời gian từ khi phát hiện lỗ hổng đến khi khắc phục lỗ hổng.
OpenAI chưa đưa ra phản hồi nào về vấn đề này.Giải mã.
Trong bối cảnh các chuyên gia an ninh mạng và chuyên gia ngành cảnh báo về mối đe dọa từ các cuộc tấn công mạng do trí tuệ nhân tạo điều khiển, Tạp chí Midnight ra đời.Claude Mythos Tháng trước, Mozilla, nhà phát triển trình duyệt Firefox, cho biết họ đã sử dụng Mythos để tìm thấy 271 lỗ hổng chưa được biết đến trong trình duyệt.
OpenAI cho biết trong một tuyên bố: “Hiện nay, trí tuệ nhân tạo có thể giúp các nhà phòng thủ suy luận xuyên suốt kho mã nguồn, phát hiện lỗ hổng tinh vi, xác minh các giải pháp khắc phục, phân tích các hệ thống không quen thuộc và chuyển nhanh hơn từ việc phát hiện lỗ hổng sang khắc phục. Do những khả năng này cũng có thể bị lạm dụng, Daybreak kết hợp các năng lực phòng thủ được nâng cao với niềm tin, xác minh, các biện pháp bảo mật phù hợp và trách nhiệm giải trình.”
Trong khi đó, các công ty trí tuệ nhân tạo lớn đang không ngừng đẩy các mô hình của mình vào lĩnh vực an ninh mạng và kỹ thuật phần mềm. Anthropic, đối thủ của OpenAI, cũng ngày càng chú trọng đến các hoạt động liên quan đến trí tuệ nhân tạo. Đã niêm yết Khi cuộc cạnh tranh giữa các công ty trí tuệ nhân tạo nhằm tìm kiếm khách hàng doanh nghiệp ngày càng gay gắt, mô hình Claude của họ có thể được sử dụng cho các nhiệm vụ mã hóa và an toàn.
Các chuyên gia vẫn chia rẽ về mức độ đe dọa do trí tuệ nhân tạo gây ra, khi các nhà nghiên cứu và cơ quan chính phủ đã cảnh báo rằng các mô hình trí tuệ nhân tạo tiên tiến có thể tăng tốc sự lan rộng của mối đe dọa này. Cuộc tấn công mạng được hỗ trợ bằng cách giúp tin tặc tự động hóa nghiên cứu lỗ hổng, phát triển phần mềm độc hại và tạo ra các chương trình khai thác. Đồng thời, các nhà nghiên cứu của Google gần đây cho biết các mô hình ngôn ngữ lớn ngày càng trở nên giỏi hơn trong việc phát hiện và khai thác các lỗ hổng phần mềm mà các công cụ quét bảo mật truyền thống thường bỏ qua.
OpenAI cho biết, trước khi triển khai thêm nhiều mô hình AI có khả năng bảo mật mạng, họ dự định hợp tác với chính phủ và các đối tác ngành, vì các cơ quan quản lý và quan chức an ninh quốc gia đang cố gắng xem xét kỹ lưỡng việc kiểm thử các mô hình trí tuệ nhân tạo tiên tiến trước khi phát hành cho công chúng.
OpenAI viết: "Dawn là tia nắng đầu tiên của buổi sáng. Đối với phòng thủ mạng, điều này có nghĩa là phát hiện rủi ro sớm hơn, hành động sớm hơn và giúp phần mềm có khả năng chống chịu ngay từ giai đoạn thiết kế."