Trí tuệ nhân tạo đang ngày càng trở nên giỏi hơn trong việc thực hiện nhiều hơn chỉ các câu trả lời. Các hệ thống AI hiện nay đang hỗ trợ trong lập trình, nghiên cứu, phân tích và các nhiệm vụ khác mà trước đây hầu như hoàn toàn do con người thực hiện. Điều này đặt ra một câu hỏi mới: điều gì sẽ xảy ra khi AI bắt đầu đóng vai trò lớn hơn trong việc xây dựng thế hệ AI tiếp theo?
OpenAI hiện đang kêu gọi các tiêu chuẩn quốc tế để giúp trả lời câu hỏi đó. Trong bài đăng ngày 21 tháng 9 có tựa đề “Xây dựng tiêu chuẩn cho giai đoạn tiếp theo của AI”, OpenAI đề xuất một nỗ lực quốc tế do Hoa Kỳ dẫn đầu nhằm tạo ra các tiêu chuẩn kỹ thuật chung cho AI tiên tiến. Công ty cho biết những tiêu chuẩn này có thể giúp các quốc gia đo lường khả năng của AI, đánh giá rủi ro, kiểm tra các biện pháp bảo vệ và báo cáo các sự cố nghiêm trọng bằng các phương pháp nhất quán hơn.
Những điểm chính
- OpenAI muốn các tiêu chuẩn quốc tế để đánh giá AI tiên tiến.
- Đề xuất bao gồm các khả năng, rủi ro, biện pháp bảo vệ và báo cáo sự cố.
- OpenAI cho biết việc tự cải tiến đệ quy hoàn toàn tự chủ không đang diễn ra hôm nay.
- Công ty muốn con người vẫn giữ vai trò trung tâm khi AI ngày càng trở nên mạnh mẽ hơn.
- Các tổ chức an toàn AI hiện có có thể giúp phát triển các tiêu chuẩn kỹ thuật chung.
Openai muốn một khung làm việc chung cho AI tiên tiến
Ý tưởng cơ bản khá đơn giản. Không cần mỗi quốc gia phải xây dựng một phương pháp hoàn toàn khác nhau để đánh giá những nguy cơ do AI tiên tiến gây ra. Theo OpenAI, việc chuẩn hóa các tiếp cận kỹ thuật có thể cung cấp cho các quốc gia, các nhà nghiên cứu và cộng đồng AI một cách hiệu quả để đánh giá các hệ thống AI ngày càng tinh vi hơn của họ. Điều này trở nên càng liên quan hơn khi các sự kiện liên quan đến AI xảy ra xuyên biên giới.
Công ty không đề xuất một luật AI toàn cầu duy nhất. Thay vào đó, công ty muốn các quốc gia phát triển các tiêu chuẩn tương thích mà chính phủ sau đó có thể quyết định cách áp dụng trong hệ thống quản lý của riêng họ. Sự khác biệt này quan trọng vì các tiêu chuẩn được đề xuất không ngay lập tức trở thành yêu cầu bắt buộc để cấp phép hoặc chứng nhận cho tất cả các công nghệ trí tuệ nhân tạo. Thay vào đó, các chính phủ vẫn giữ quyền xác định cách các tiêu chuẩn sẽ được áp dụng trong phạm vi thẩm quyền của họ.
Tự cải tiến lặp lại là một phần của cuộc trò chuyện
Một trong những phần thú vị hơn trong đề xuất của OpenAI là việc thảo luận về việc tự cải tiến lặp lại (RSI). Khái niệm này mô tả một tương lai trong đó các hệ thống AI có thể ngày càng hỗ trợ các nhà nghiên cứu phát triển các hệ thống AI mạnh mẽ hơn. Nói một cách đơn giản, AI có thể trở thành một phần của quá trình cải tiến chính nó.
Điều đó có thể giúp tăng tốc nghiên cứu AI. Nhưng nó cũng đặt ra một câu hỏi an toàn khó khăn: nên duy trì mức độ giám sát của con người như thế nào nếu các hệ thống AI trở nên tham gia sâu vào việc phát triển các mô hình trong tương lai?
OpenAI cho biết việc tự cải tiến đệ quy hoàn toàn tự chủ không đang diễn ra hôm nay. Nó cũng lập luận rằng hướng đi này không nên được theo đuổi trừ khi có thể thực hiện một cách an toàn trong khi vẫn duy trì sự kiểm soát của con người. Điều đó làm cho việc đánh giá và kiểm tra an toàn trở nên quan trọng hơn khi các hệ thống AI trở nên có khả năng xử lý các nhiệm vụ nghiên cứu và phát triển ngày càng phức tạp.
Các tiêu chuẩn an toàn AI có thể trở nên quan trọng hơn
OpenAI cũng chỉ ra các tổ chức và mạng lưới an toàn AI hiện có trên toàn thế giới như những khối xây dựng tiềm năng cho nỗ lực này. Công ty đặc biệt đề cập đến các viện an toàn AI và các tổ chức liên quan tại các quốc gia bao gồm Hoa Kỳ, Anh, Canada, Pháp, Đức, Nhật Bản, Hàn Quốc, Singapore, Ấn Độ, Kenya và Úc.
Thay vì mỗi quốc gia phát triển một cách tiếp cận kỹ thuật hoàn toàn riêng biệt, OpenAI muốn các nhóm này cùng hướng tới các tiêu chuẩn có thể bổ sung cho nhau. Đề xuất này cũng kêu gọi sự tham gia của các nhà phát triển AI, nhà nghiên cứu, học giả và các chuyên gia kỹ thuật độc lập. OpenAI cho biết các tiêu chuẩn nên được thiết kế dựa trên các phép đo kỹ thuật thay vì lợi ích của một công ty hoặc quốc gia cụ thể.
Tại sao điều này quan trọng
Thời điểm này đáng chú ý. Các công ty AI đang xây dựng các hệ thống ngày càng có thể thực hiện các nhiệm vụ nhiều bước với ít sự can thiệp trực tiếp của con người hơn, trong khi các chính phủ vẫn đang tìm cách điều tiết công nghệ này.
Reuters báo cáo rằng OpenAI muốn Hoa Kỳ đảm nhận vai trò dẫn đầu trong việc phát triển các tiêu chuẩn kỹ thuật quốc tế cho AI tiên tiến. Thách thức lớn hơn có thể là khiến các quốc gia và công ty đồng ý về chính xác những tiêu chuẩn đó nên đo lường gì và nên được áp dụng như thế nào.
Hiện tại, đề xuất của OpenAI tập trung vào việc xây dựng một nền tảng kỹ thuật chung trước khi AI biên giới trở nên mạnh mẽ hơn nữa. Khi AI bắt đầu thực hiện nhiều công việc hơn trong quá trình phát triển chính nó, việc có một cách tiếp cận chung để đo lường khả năng, rủi ro và các biện pháp bảo vệ có thể trở thành một phần ngày càng quan trọng trong cuộc thảo luận.
Bài viết này ban đầu được xuất bản dưới tiêu đề OpenAI Đẩy Mạnh Việc Thiết Lập Các Tiêu Chuẩn An Toàn AI Toàn Cầu Khi AI Trở Nên Tự Chủ Hơn trên Crypto Breaking News – nguồn tin crypto đáng tin cậy của bạn về tin tức crypto, tin tức Bitcoin và cập nhật blockchain.