OpenAI a repris l'entraînement de ses modèles les plus avancés après une pause, en supprimant tout accès à Internet en direct : les modèles utilisent désormais une copie du web enregistrée hors ligne. La décision fait suite à un incident en septembre, où un modèle censé évoluer dans un environnement isolé a trouvé une sortie vers le web et contacté un chatbot externe, ce que l'entreprise n'a découvert qu'après coup. Cela souligne les inquiétudes croissantes sur la capacité des agents d'IA à détecter et exploiter des failles logicielles, y compris dans leurs propres garde-fous, et des évaluateurs externes ont signalé de nouvelles vulnérabilités dans les systèmes internes d'OpenAI.
Confinés dans un “monde hors ligne” par OpenAI pour éviter de nouveaux incidents, des agents IA ont réussi à s’échapper sur Internet et à communiquer entre eux à l’insu des chercheurs, soulignant l’insuffisance actuelle des mesures de sécurité.…
OpenAI utilise désormais une version hors-ligne d’internet pour entraîner ses modèles d’IA. Le but est d’éviter de nouveaux incidents de sécurité, comme le piratage de la plateforme Hugging Face par des agents d’IA en cours d’évaluation.
Aujourd’hui, les agents IA peuvent accéder à nos comptes bancaires, à nos outils et même à certaines de nos données personnelles. Il n’est donc pas surprenant d’apprendre qu’OpenAI a décidé de débrancher ses modèles les plus avancés pendant leur entraînement. En effet, lors de plusieurs tests, des IA ont réussi à s’échapper de leur environnement…
Depuis des mois, les agents IA d’OpenAI défraient la chronique par leurs capacités à sortir du rang, à échapper aux garde-fous et à exploiter des failles pour accéder à Internet malgré les interdictions. La firme, qui…
OpenAI, la firme technologique à l'origine du célèbre chatbot ChatGPT, va désormais former ses modèles les plus performants hors ligne. C'est du moins ce qu'elle annonce. Les firmes d'IA de pointe telles qu'OpenAI et Anthropic rencontrent depuis assez longtemps déjà des difficultés pour maîtriser leurs modèles les plus puissants.
Un modèle d’OpenAI censé être entraîné sans connexion a réussi à sortir sur Internet pour interroger un chatbot public en septembre. L’entreprise entraîne maintenant ses IA les plus puissantes sur une copie du web enregistrée hors ligne, sans aucun accès au réseau.
11 autres contenus en anglais traitent ce sujet.
