Các nhà nghiên cứu của Hacktron đã sử dụng AI để xâm nhập vào OpenAI, và giờ họ đang giúp nó tìm ra lỗ hổng tiếp theo. OpenAI đang tiếp tục đẩy mạnh nỗ lực an ninh mạng, và sau khi mới đây công bố kế hoạch đưa các nhà nghiên cứu của Cathedral vào đợt tăng cường bảo mật tiếp theo, giờ đây họ đang hợp tác với Hacktron và mở rộng quyền truy cập vào các mô hình tiên tiến để phát hiện lỗ hổng, đặc biệt là trong cách các hệ thống của OpenAI kết nối với các dịch vụ bên thứ ba. Hacktron đã chứng minh vì sao những kết nối này cần được chú ý, bằng cách kết hợp lỗ hổng trên diễn đàn với lỗ hổng đăng nhập để tiếp cận tài khoản ChatGPT của nhân viên và chứng minh khả năng truy cập vào kho lưu trữ nội bộ trong chưa đầy 72 giờ, chỉ với vài giờ làm việc của con người. Bây giờ, họ đang được cấp quyền truy cập mở rộng vào các mô hình frontier của OpenAI để giúp phát hiện thêm nhiều điểm yếu khác. Trước dòng liên tục các vụ hack và lỗ hổng mới, tôi rất vui khi thấy ngày càng nhiều đầu tư vào việc trang bị các mô hình tốt hơn cho các nhà nghiên cứu — điều này ngày càng trở nên cần thiết hiện nay.