Anthropic kêu gọi tạm dừng toàn cầu đối với việc phát triển AI tiên tiến

Odaily Planet Daily tin: Công ty Anthropic kêu gọi các phòng thí nghiệm AI hàng đầu xem xét giảm tốc độ phát triển và cho rằng tốc độ tiến hóa của các hệ thống AI đang cực kỳ nhanh, có thể sớm đạt đến khả năng tự cải tiến mà không cần sự can thiệp của con người — khả năng này có thể gây ra những rủi ro xã hội nghiêm trọng. Dữ liệu nội bộ do Anthropic công bố cho thấy hiệu suất của mô hình tiên tiến nhất của họ đang tăng nhanh, và sự tiến bộ của các mô hình AI dường như đang hướng tới “tự cải tiến đệ quy”, tức là các hệ thống AI có thể tự tối ưu hóa mà không cần sự can thiệp của con người. Anthropic cho rằng nếu toàn cầu có thể chọn cách giảm tốc hoặc tạm ngừng phát triển AI tiên tiến để các cấu trúc xã hội và nghiên cứu liên quan bắt kịp với sự phát triển công nghệ, điều này sẽ mang lại lợi ích toàn cầu. Anthropic đề xuất thiết lập một hiệp ước toàn cầu nhằm xác định rõ cách giảm tốc độ phát triển AI và xây dựng cơ chế xác minh liệu các đối thủ cạnh tranh có tuân thủ hiệp ước hay không.