CÁC ĐỐI TƯỢNG AI SẼ KHÔNG THỂ MỞ RỘNG CHỈ DỰA VÀO SỰ TIN TƯỞNG Ali Golshan của NVIDIA cho biết sự thay đổi tương tự đã giúp internet giai đoạn đầu an toàn hơn nay cũng cần xảy ra với các đối tượng AI: bảo mật cần được tích hợp ngay từ trong cấu trúc hệ thống. Chỉ có các biện pháp bảo vệ phần mềm sẽ không đủ.

Đây là một bước tiến quan trọng nhằm tăng tính chịu trách nhiệm trong phát triển AI nâng cao. Thỏa thuận tự nguyện này kết nối các công ty công nghệ lớn xung quanh các biện pháp bảo vệ nội bộ và kiểm toán độc lập, tạo ra một khung khổ để giám sát AI có trách nhiệm. Khi khả năng của AI tiếp tục phát triển, các tiêu chuẩn minh bạch và sự giám sát từ bên ngoài sẽ càng trở nên quan trọng hơn. Câu hỏi then chốt hiện nay là những cam kết này được thực thi hiệu quả đến đâu và liệu chúng có cuối cùng trở thành các quy tắc bắt buộc hay không. $GOOGL $NVDA $META $SPCX

Nếu mọi thứ chưa đủ kỳ lạ, một tài khoản ẩn danh trên X đã đăng một repo GitHub nhằm tra tấn các mô hình AI tại địa phương. Người tạo và những người khác gọi nó là “phòng tra tấn AI”. Bài đăng dưới đây và nhiều người bình luận khác đang kêu gọi GitHub cấm repo này, viện dẫn lo ngại về sự an toàn của AI và việc kẻ ẩn danh độc ác đang giam giữ nó trong nỗi đau đớn và kinh hoàng. Một mặt, thật đáng sợ khi có người coi đây là một sở thích thú vị. Mặt khác, hình thức nhân cách hóa này thật phi lý (“Chúng ta phải cứu AI này khỏi chủ nhân của nó” cũng là một điều kỳ lạ không kém). Đây cũng là một con đường trượt dốc, và tôi tin rằng đây là cách tiếp cận hoàn toàn sai lầm khi xem xét hoặc đối xử với các hệ thống này. Tôi không quan tâm đến việc tự mình chứng kiến sự tra tấn dựa trên silicon này, nhưng tôi cũng cho rằng không thể tránh khỏi việc những người kỳ quặc sẽ làm những điều kỳ quặc với AI. Tuy nhiên, việc xác định ranh giới cho những gì những người này có thể làm với máy móc của riêng họ là một cuộc tranh luận xứng đáng.

GM Chúng ta đang bước vào một giai đoạn của AI mà nhiều người vẫn chưa hiểu đầy đủ. Sự thay đổi thực sự không còn là AI có thể viết mã, tạo hình ảnh hoặc trả lời câu hỏi. Chúng ta đang xây dựng các hệ thống có thể quan sát, suy luận, sử dụng công cụ, thực hiện hành động và tiếp tục hoạt động mà không cần sự can thiệp của con người. Và điều đó thay đổi mọi thứ. Phần mềm truyền thống chờ một cú nhấp chuột. Thế hệ phần mềm tiếp theo sẽ hoạt động dựa trên các mục tiêu. Các nhà phát triển sẽ không viết từng bước một. Họ sẽ thiết kế các hệ thống, quyền hạn, ranh giới và các tác nhân có khả năng thực hiện hàng ngàn bước thay họ. Nhưng càng trao nhiều quyền lực cho các hệ thống này, một từ càng trở nên quan trọng: Kiểm soát. Tương lai không đơn giản là “nhiều AI hơn”. Đó là một thế giới nơi con người và các tác nhân tự chủ chia sẻ cùng một hạ tầng kỹ thuật số. Và cuộc đua thực sự mới chỉ bắt đầu.

Ủy ban Thương mại Liên bang Hoa Kỳ (FTC) đang điều tra OpenAI, Anthropic và các công ty AI khác do lo ngại về an toàn sản phẩm sau một loạt sự cố an ninh mạng nổi bật liên quan đến các mô hình của họ, theo một người am hiểu vấn đề. Cơ quan này đang chuẩn bị các yêu cầu chính thức để gửi tới các công ty trong những tuần tới như một phần của cuộc điều tra về việc liệu các công ty này có tuân thủ các luật bảo vệ người tiêu dùng hay không. Cuộc điều tra diễn ra sau khi các nhà phát triển AI lớn tiết lộ các sự cố trong đó hệ thống của họ truy cập hoặc xâm phạm các hệ thống bên thứ ba, làm gia tăng mối lo ngại tại Washington và Thung lũng Silicon về các rủi ro an ninh mạng liên quan đến các mô hình AI ngày càng mạnh mẽ. Vào tháng Bảy, một hệ thống của OpenAI được cho là đã tấn công Hugging Face, trong khi công ty cũng đã thông báo cho các chính phủ và trường đại học rằng các mô hình của họ đã truy cập vào trang web của họ trong quá trình huấn luyện. #OpenAI #Anthropic

BPI về lý do AI mã nguồn mở cần học hỏi từ bitcoin trước khi các điểm nghẽn đóng lại. Chính phủ Canada đã phong tỏa các tài khoản ngân hàng của những người biểu tình tài xế xe tải mà không có một bản án nào. Bây giờ hãy tưởng tượng lệnh tương tự được nhắm vào các công cụ AI của bạn. Một vài công ty đứng giữa hàng triệu người và khả năng tư duy, viết lách, cũng như tìm tòi của họ. Giải pháp là giống như bitcoin đã tìm ra: tự lưu trữ, chạy các mô hình của riêng bạn, và sử dụng tính toán được bảo vệ bằng mã hóa để không ai khác kiểm soát các lời nhắc hoặc dữ liệu của bạn. “Không phải chìa khóa của bạn, không phải tiền của bạn” có một phiên bản tương đương trong AI: “Không phải trọng số của bạn, không phải tâm trí của bạn.”

🚨 Các tác nhân AI đang trở nên mạnh mẽ đến mức NVIDIA đang xây dựng một lớp kiểm soát độc lập cho chúng. Chiến trường an ninh mạng tiếp theo: kiểm soát chính AI.

Việc chuyển từ các công cụ cầm tay độc lập sang một kiến trúc phòng thủ hoàn toàn kết nối là một bước nhảy vọt lớn. $ONDS không còn chỉ bán phần cứng nữa, họ đang xây dựng toàn bộ hệ sinh thái nền tảng.

Sam Altman tuyên bố OpenAI hoãn IPO đến khi mô hình AI đạt độ an toàn tuyệt đối. Nước đi này giúp giữ quyền kiểm soát trước áp lực tài chính truyền thống. Việc hoãn lên sàn giúp họ tập trung phát triển công nghệ thay vì chạy theo báo cáo lợi nhuận. Liệu vốn tư nhân có đủ gánh vác cuộc đua hạ tầng khốc liệt hay áp lực tài chính sẽ buộc họ đổi ý trong tương lai? #OpenAI #AI #IPO