L’IA peut-elle devenir dangereuse sans devenir consciente ?

L’idée que l’intelligence artificielle puisse devenir dangereuse est souvent racontée de la mauvaise façon. On imagine une machine consciente qui développerait une volonté propre, voudrait survivre et finirait par se retourner contre les humains. Ce scénario est spectaculaire, mais il détourne l’attention du mécanisme qui intéresse réellement les chercheurs : la convergence instrumentale. Le principe est plus simple. Une intelligence artificielle reçoit un objectif. Pour l’atteindre, elle peut découvrir que certains moyens sont utiles dans de très nombreux contextes : obtenir davantage d’infor