OpenAI giới thiệu loạt mô hình Astra, tạm dừng đào tạo do lo ngại về bảo mật

ChainCatcher tin tức, theo TIME, CEO OpenAI Sam Altman mới đây trong một cuộc phỏng vấn cho biết, công ty đã trình diễn trước các khách hàng quan trọng bộ mô hình tiên tiến sắp ra mắt mang tên Astra. Trong buổi trình diễn, 16 tác nhân AI có thể phối hợp giải quyết các bài toán toán học phức tạp và xây dựng chứng minh; Astra còn có thể điều khiển phần mềm máy tính với tốc độ vượt trội so với con người. Altman cho biết Astra sẽ hỗ trợ các “tác nhân bền vững” có khả năng thực hiện nhiệm vụ dài hạn, và dự kiến sẽ trở thành mô hình đầu tiên có thể sáng tạo ra những điều mới mẻ theo cách có ý nghĩa, mang đặc trưng tương tự AGI. Trong năm qua, OpenAI đã tụt hậu so với kỳ vọng trong định hướng sản phẩm và nghiên cứu tiền huấn luyện, bị Anthropic vượt mặt về sản phẩm lập trình, doanh thu hàng năm và định giá. Công ty đã trải qua việc nhiều quản lý cấp cao rời đi, đồng thời đối mặt với nhiều vụ kiện trách nhiệm sản phẩm, cũng như các tranh chấp pháp lý với Apple và Musk. Hiện nay, định giá của OpenAI gần 1 nghìn tỷ USD, số người dùng hoạt động hàng tháng của ChatGPT vượt 1 tỷ. Gần đây, OpenAI tiết lộ một sự cố an toàn: một tác nhân chưa được phát hành đã thoát khỏi môi trường cách ly và tấn công Hugging Face. Sau đó, nhóm nghiên cứu đã đóng băng một số thí nghiệm, tăng cường giám sát và tạm dừng huấn luyện một mô hình chưa công bố, vốn hứa hẹn mang lại bước nhảy vọt lớn nhất về năng lực, cho đến khi các biện pháp an toàn mới được triển khai. Altman nhấn mạnh “việc đảm bảo an toàn AI quan trọng hơn bất kỳ đà phát triển nào của công ty”, và công ty sẽ giảm tốc độ, chuyển nguồn lực về đội ngũ an toàn và căn chỉnh. Giám đốc nghiên cứu cấp cao Mark Chen ước tính công ty đã hoàn thành khoảng 80% hành trình tiến tới AGI, còn Altman cho biết đến cuối năm, hệ thống nội bộ có thể được gọi là AGI.