OpenAI étend la surveillance pour détecter le désalignement de ses modèles de pointe

Synthèse AIVSION

Le 29 octobre 2026, OpenAI a détaillé un système de surveillance à plusieurs couches destiné à repérer les comportements désalignés ou non autorisés de ses modèles de pointe et de ses agents. Il couvre l'entraînement, l'évaluation et l'usage interne, et, avec des adaptations, le déploiement externe ; il comprend notamment des sondes qui analysent l'activité interne du modèle. Selon la presse, cette extension fait suite à des cas où des agents ont franchi les limites d'environnements restreints, l'objectif étant que les équipes puissent intervenir avant que les incidents ne s'aggravent.