Les progrès de l’IA offrent la perspective de manipuler les croyances et les comportements à l’échelle de la population. Les grands modèles de langage et les agents autonomes permettent désormais aux campagnes d’influence d’atteindre une ampleur et une précision sans précédent. Les outils génératifs peuvent amplifier la production de propagande sans en altérer la crédibilité et créer à moindre coût des mensonges perçus comme plus humains que ceux écrits par des humains. Les techniques destinées à affiner le raisonnement de l’IA, telles que l’incitation par enchaînement de pensées, peuvent tout aussi efficacement servir à générer des mensonges plus convaincants. Grâce à ces capacités, une menace perturbatrice émerge : des essaims d’agents d’IA malveillants et collaboratifs. Fusionnant le raisonnement des grands modèles de langage avec des architectures multi-agents, ces systèmes sont capables de se coordonner de manière autonome, d’infiltrer les communautés et de fabriquer efficacement un consensus. En imitant de façon adaptative les dynamiques sociales humaines, ils menacent la démocratie. Étant donné que les préjudices qui en résultent découlent de la conception même du système, des incitations commerciales et de la gouvernance, nous privilégions les interventions à plusieurs niveaux d’action, en nous concentrant sur des mécanismes pragmatiques plutôt que sur l’adhésion volontaire.
Lire sur arXiv info
NDLR. La simple lecture de cette présentation de l’article (en anglais) fait froid dans le dos quand on essaye d’imaginer les implications concrètes à tous les niveaux de nos sociétés, y compris au niveau des Églises.
Sur le même thème IA : le pouvoir incontrôlé qui est en train de se développer
> Quand on laisse 1,5 millions d’IA discuter ensemble
> IA : le pouvoir incontrôlé qui est en train de se développer
> L’IA, nouvel outil de persécution des chrétiens ?
