Những điểm chính:
- Cảnh báo của Sam Altman đã làm thay đổi tin tức về AI theo hướng phát triển chậm hơn và tăng cường an toàn.
- OpenAI chuẩn bị các trường hợp an toàn trước các lần huấn luyện dự kiến sẽ tăng cường khả năng.
- Altman cảnh báo về việc mất kiểm soát của con người và quyền lực AI quá mức do một thực thể duy nhất nắm giữ.
Tin tức về AI đã chuyển hướng sang an toàn biên giới sau khi CEO OpenAI Sam Altman kêu gọi phát triển mô hình chậm hơn và được giám sát cẩn thận hơn. Ông cảnh báo rằng nhân loại có thể mất kiểm soát nếu khả năng tiến bộ nhanh hơn các hệ thống căn chỉnh và giám sát.
Altman cũng xác định sự kiểm soát tập trung mạnh mẽ đối với AI mạnh mẽ là một mối nguy hiểm riêng biệt. Phát biểu ngày 14 tháng 9 của ông ủng hộ sự tiến bộ liên tục, mặc dù các nhà phát triển nên chấp nhận chi phí an toàn bổ sung và tốc độ phát triển chậm hơn.
Tin tức AI tập trung vào việc thúc đẩy phát triển ranh giới
Altman ủng hộ đề xuất của CEO Anthropic, Dario Amodei, về việc điều chỉnh tốc độ phát triển trong khi các nhà nghiên cứu củng cố các biện pháp bảo vệ an toàn.
Tuy nhiên, anh ấy giải thích rằng điều chỉnh nhịp độ không có nghĩa là dừng lại tiến bộ công nghệ. Thay vào đó, các phòng thí nghiệm nên chấp nhận sự phát triển chậm hơn khi các đánh giá an toàn yêu cầu thêm thời gian. Những can thiệp này mang lại chi phí cao, nhưng Altman mô tả những chi phí này là cần thiết.
Ngoài tin tức về AI, Altman cho biết áp lực cạnh tranh trong nước không bao giờ có thể biện minh cho việc phát triển thiếu thận trọng. Ông bổ sung rằng khả năng của mô hình không được phép tiến bộ vượt quá các hệ thống căn chỉnh và giám sát.
Tiến độ đã được tăng tốc, khiến việc phát triển có trách nhiệm trở nên thiết yếu hơn bao giờ hết đối với mọi phòng thí nghiệm frontier. Ông cho biết các công ty Mỹ phải mang lại cho công chúng niềm tin rằng họ sẽ phát triển các hệ thống tiên tiến một cách có trách nhiệm.
Các khung khổ trước đây của công ty chủ yếu xem xét các mô hình đã hoàn thành trước khi triển khai công khai. Những khung này bao gồm Các chính sách mở rộng có trách nhiệm và Khung chuẩn bị do các phòng thí nghiệm tiên phong phát triển.
Altman cho biết các điều kiện phát triển hiện tại yêu cầu các công cụ mới và đánh giá an toàn sớm hơn. Do đó, OpenAI đã đẩy một số công việc an toàn lên trước các bước tăng cường khả năng lớn.
OpenAI thêm các trường hợp an toàn trước khi chạy đào tạo
OpenAI hiện nay xây dựng các trường hợp an toàn rõ ràng trước các đợt chạy chọn lọc của học tăng cường biên giới. Công ty áp dụng chúng khi các nhà nghiên cứu kỳ vọng đợt huấn luyện sẽ mang lại những tiến bộ đáng kể về khả năng.
OpenAI cũng tiếp tục thực hiện các công việc về an toàn trước khi phát hành các mô hình hoàn chỉnh. Tiếp cận này, do đó, đặt các đánh giá ở cả giai đoạn phát triển và triển khai.
Altman cho rằng các công ty nên chia sẻ các phương pháp tiếp cận và đề xuất các quy trình an toàn của riêng mình. Ông ủng hộ các tiêu chuẩn chung bao gồm sự không phù hợp của mô hình, giám sát và an toàn.
Những tiêu chuẩn này có thể hướng dẫn các phòng thí nghiệm trong việc đánh giá các hệ thống ngày càng mạnh mẽ hơn. Ông cũng hoan nghênh các kiểm toán viên độc lập như một phần của khung quản lý rủi ro biên giới nhất quán.
Tuyên bố tin tức AI mới nhất kêu gọi hành động ngay lập tức từ ngành công nghiệp mà không cần chờ đợi luật pháp. Altman cho biết các công ty không cần được miễn trừ chống độc quyền trước khi triển khai các biện pháp bảo vệ.
Anh ấy cũng ủng hộ một khung pháp lý liên bang thiết lập các yêu cầu nhất quán cho các nhà phát triển tiên phong. Tuy nhiên, anh ấy giao cho chính phủ vai trò lớn hơn trong việc phối hợp các quy tắc an toàn quốc tế.
Altman cho rằng các phòng thí nghiệm nên trước tiên triển khai các biện pháp bảo vệ có sẵn trong tổ chức của họ. Sau đó, chính phủ có thể hỗ trợ phối hợp giữa các quốc gia để phát triển các mô hình tiên tiến.
Phát biểu của ông không kêu gọi chấm dứt nghiên cứu AI hay cải tiến khả năng. Thay vào đó, ông đề xuất tiếp tục phát triển với việc giám sát chặt chẽ hơn và điều chỉnh tốc độ một cách có chủ đích.
Tin tức AI: Sam Altman xác định hai rủi ro AI前沿
Altman đã mô tả hai cách phát triển AI nâng cao có thể dẫn đến các kết quả nghiêm trọng. Thứ nhất, nhân loại có thể mất kiểm soát nếu khả năng vượt quá các biện pháp bảo vệ hiện có.
Thứ hai, một công ty, quốc gia, phòng thí nghiệm hoặc cá nhân có thể giành quyền kiểm soát quá mức đối với các hệ thống mạnh mẽ. Sự tập trung này có thể cho phép một thực thể áp đặt thế giới quan của mình lên những người khác.
Cảnh báo đã đặt kiểm soát kỹ thuật và kiểm soát thể chế vào cùng một cuộc thảo luận về an toàn. Altman cho biết OpenAI vẫn cam kết đảm bảo AI phục vụ nhân loại.
Theo tin tức AI mới nhất, CEO của OpenAI cũng nhấn mạnh rằng mọi phòng thí nghiệm frontier đều phải đáp ứng trách nhiệm này. Nếu không, các hệ thống mạnh mẽ hơn có thể tiến triển mà không có sự giám sát đầy đủ hoặc các tiêu chuẩn chung.
Bài viết Tin tức AI: Sam Altman cho biết tiến bộ AI phải chậm lại khi các rủi ro biên giới đang gia tăng xuất hiện đầu tiên trên The Coin Republic.