Odaily Planet Daily rapporte qu'OpenAI a déclaré qu'il ne peut exclure que son prochain modèle, Astra, possède des capacités réseau « critiques », ce qui a poussé OpenAI à élargir son programme de tests de sécurité et à suspendre les activités internes ne répondant pas aux exigences de sécurité plus strictes. Il s'agit du dernier indice de l'amélioration rapide des capacités réseau des modèles d'intelligence artificielle.
OpenAI a déclaré qu'après une évaluation interne du modèle à venir, Astra, « nous ne pouvons exclure qu'il possède des capacités critiques en matière de cybersécurité ». Avant la publication d'Astra, OpenAI élargira les tests et les mesures de sécurité dédiées à ce modèle, et ralentira le développement d'Astra conformément au « cadre de préparation » publié par l'entreprise en 2023, jusqu'à la mise en place de protections de sécurité appropriées.
OpenAI a également déclaré qu'Astra n'a pas participé à l'attaque exploitant la faille de Hugging Face. Il s'agit probablement du premier cas où un laboratoire de pointe en intelligence artificielle s'engage à ralentir le développement de ses modèles d'IA en raison de préoccupations liées à la cybersécurité. (Axios)