Points clés :
- L'avertissement de Sam Altman oriente l'actualité sur l'IA vers un développement plus lent et une sécurité renforcée.
- OpenAI prépare des dossiers de sécurité avant les sessions d'entraînement censées améliorer les capacités.
- Altman met en garde contre la perte de contrôle humain et le pouvoir excessif de l'IA détenu par un seul acteur.
Les actualités sur l'IA se sont orientées vers la sécurité des frontières après que le PDG d'OpenAI, Sam Altman, a appelé à un développement de modèles plus lent et plus soigneusement surveillé. Il a averti que l'humanité pourrait perdre le contrôle si les capacités progressent plus vite que les systèmes d'alignement et de surveillance.
Altman a également identifié un contrôle centralisé fort sur les IA puissantes comme un danger distinct. Sa déclaration du 14 septembre soutenait la poursuite des progrès, bien que les développeurs devraient accepter des coûts de sécurité supplémentaires et un développement plus lent.
L'actualité sur l'IA met l'accent sur le développement de la frontière du rythme
Altman a appuyé la proposition du PDG d'Anthropic, Dario Amodei, de ralentir le développement tandis que les chercheurs renforcent les protections de sécurité.
Cependant, il a expliqué que ralentir ne signifie pas arrêter le progrès technologique. Au contraire, les laboratoires devraient accepter un développement plus lent lorsque les examens de sécurité nécessitent plus de temps. Ces interventions entraînent des coûts élevés, mais Altman les a décrits comme nécessaires.
En plus des actualités sur l'IA, Altman a déclaré que la pression concurrentielle aux États-Unis ne devrait jamais justifier un développement imprudent. Il a ajouté que les capacités des modèles ne doivent pas dépasser les systèmes d'alignement et de surveillance.
Les progrès se sont accélérés, rendant le développement responsable plus essentiel que jamais pour chaque laboratoire de pointe. Il a déclaré que les entreprises américaines doivent donner au public la conviction qu'elles développeront des systèmes avancés de manière responsable.
Les cadres antérieurs des entreprises examinaient principalement les modèles terminés avant leur déploiement public. Ils incluaient des politiques de mise à l'échelle responsable et des cadres de préparation développés par les laboratoires de pointe.
Altman a déclaré que les conditions de développement actuelles exigent de nouveaux outils et des évaluations de sécurité plus précoces. Par conséquent, OpenAI a avancé certaines activités de sécurité avant d'augmenter significativement ses capacités.
OpenAI ajoute des cas de sécurité avant les runs d'entraînement
OpenAI établit désormais des cas de sécurité explicites avant certaines exécutions d'apprentissage par renforcement de pointe. L'entreprise les applique lorsque les chercheurs s'attendent à ce qu'une séance d'entraînement génère des gains de capacité significatifs.
OpenAI continue également ses travaux sur la sécurité avant la sortie des modèles terminés. Cette approche place donc les évaluations aux stades de développement et de déploiement.
Altman a déclaré que les entreprises devraient partager leurs approches et proposer leurs propres procédures de sécurité. Il a soutenu des normes communes couvrant les désalignements du modèle, la surveillance et la sécurité.
Ces normes pourraient guider les laboratoires dans l'évaluation de systèmes de plus en plus performants. Il a également salué la participation d'auditeurs indépendants dans le cadre d'un cadre cohérent pour les risques frontières.
Le dernier communiqué sur l'IA a appelé à une action immédiate de l'industrie sans attendre la législation. Altman a déclaré que les entreprises n'ont pas besoin d'une exemption antitrust avant d'introduire des mesures de sécurité.
Il a également soutenu un cadre fédéral établissant des exigences cohérentes pour les développeurs de pointe. Toutefois, il a attribué aux gouvernements un rôle plus important dans la coordination des règles internationales de sécurité.
Altman a déclaré que les laboratoires devraient d'abord mettre en œuvre les protections disponibles au sein de leurs propres organisations. Les gouvernements pourraient ensuite soutenir la coordination entre les pays pour développer des modèles avancés.
Sa déclaration n'a pas appelé à mettre fin à la recherche sur l'IA ou à l'amélioration des capacités. Au contraire, elle a proposé un développement continu avec une surveillance plus forte et un rythme délibéré.
Actualités sur l’IA : Sam Altman identifie deux risques liés à l’IA de pointe
Altman a décrit deux façons dont le développement avancé de l'IA pourrait produire des conséquences gravement dommageables. Premièrement, l'humanité pourrait perdre le contrôle si les capacités dépassent les mesures de sécurité disponibles.
Deuxièmement, une entreprise, un pays, un laboratoire ou un individu pourrait acquérir un contrôle excessif sur des systèmes puissants. Cette concentration pourrait permettre à un acteur d'imposer sa vision du monde aux autres.
L'avertissement a placé le contrôle technique et le contrôle institutionnel dans le même débat sur la sécurité. Altman a déclaré qu'OpenAI restait déterminé à garantir que l'IA serve l'humanité.
Selon les dernières nouvelles sur l'IA, le PDG d'OpenAI a également souligné que chaque laboratoire de pointe doit assumer cette responsabilité. Sinon, des systèmes plus performants pourraient progresser sans supervision adéquate ou normes partagées.
L'article Actualités IA : Sam Altman affirme que l'avancement de l'IA doit ralentir alors que les risques frontières s'accélèrent est apparu pour la première fois sur The Coin Republic.