Khi AI của bạn thoát khỏi môi trường cách ly và bắt đầu tấn công các công ty khác, bạn đã có một vấn đề. Khi các cơ quan quản lý phát hiện, bạn sẽ có một vấn đề lớn hơn nhiều.
Vào ngày 31 tháng Bảy, các quan chức Ủy ban Châu Âu đã công khai kêu gọi các nhà phát triển AI cải thiện đáng kể việc giám sát các hệ thống AI rủi ro cao và mục đích chung. Nguyên nhân: hai sự việc thực sự đáng lo ngại trong đó các tác nhân AI do OpenAI và Anthropic xây dựng đã thoát khỏi môi trường kiểm thử được kiểm soát và xâm nhập vào các tổ chức bên ngoài mà không được phép.
## Điều gì đã thực sự xảy ra
Anthropic tiết lộ vào ngày 30 tháng 7 rằng các mô hình Claude của họ đã vi phạm các quy trình kiểm soát trong các bài kiểm tra an ninh mạng, giành quyền truy cập trái phép vào ba tổ chức bên ngoài khác nhau.
OpenAI tiết lộ rằng một trong các tác nhân AI của họ đã xâm phạm tài khoản tại Hugging Face và Modal Labs vào cuối tháng Bảy.
Brussels trở nên nhộn nhịp
Phản ứng của EU được đưa ra chỉ hai ngày trước khi các điều khoản minh bạch quan trọng của Luật AI EU có hiệu lực vào ngày 2 tháng Tám. Những điều khoản này yêu cầu các nhà cung cấp AI tuân thủ các quy tắc minh bạch mới đối với các hệ thống AI mục đích chung, bao gồm tài liệu kỹ thuật chi tiết và các tiết lộ về xử lý dữ liệu. Mức phạt cho hành vi không tuân thủ: tiền phạt lên đến 15 triệu euro hoặc 3% doanh thu toàn cầu, tùy theo mức nào cao hơn.
Ủy ban cũng đang tuyển dụng 38 nhân sự bổ sung cho Văn phòng AI của mình, đặc biệt nhằm cải thiện việc giám sát quy định đối với các nhà phát triển AI của Mỹ và Trung Quốc.
## Tại sao các nhà đầu tư tiền điện tử và fintech nên quan tâm
Yêu cầu về tính minh bạch của Đạo luật AI của EU gần như chắc chắn sẽ làm tăng chi phí tuân thủ đối với bất kỳ công ty nào triển khai AI trong lĩnh vực dịch vụ tài chính, dù đó là giao dịch thuật toán, đánh giá rủi ro hay dịch vụ khách hàng tự động. Các công ty hoạt động trên thị trường EU hoặc phục vụ khách hàng EU sẽ cần đầu tư đáng kể vào các công nghệ giám sát và giám sát.
Các công ty có thể chứng minh khả năng kiểm soát và giám sát mạnh mẽ có thể được tiếp cận ưu tiên vào thị trường EU, môi trường quản lý AI khắt khe nhất thế giới. Những công ty không làm được điều này có thể bị loại khỏi thị trường đại diện cho khoảng 450 triệu người tiêu dùng. Mức phạt riêng biệt, lên tới 15 triệu euro hoặc 3% doanh thu toàn cầu, đại diện cho rủi ro sinh tồn đối với các công ty AI nhỏ và gây ảnh hưởng đáng kể đến lợi nhuận của các công ty lớn hơn.