L’IA n’a pas besoin d’être "superintelligente" pour être dangereuse, par Olivier Sibony
Le vent de panique autour du "risque d’extinction" que l’IA ferait courir à l’espèce humaine ne retombe pas. Des unes de journaux aux marchés financiers, en passant par Buckingham Palace , nul ne semble pouvoir y échapper. Ce qui frappe dans ce discours n’est pas l’évidence de la menace, mais l’identité de ceux qui la brandissent. Car l’alerte vient des "insiders" : des ingénieurs spécialistes de la sécurité de l’ IA , comme Jacob Coxon, dont la démission d’ Anthropic a été le déclencheur de la crise, et même les dirigeants des géants de l’IA eux-mêmes. D’ordinaire, ce ne sont pas les opérateu