OpenAI a révélé, dans un rapport publié mardi, que certains utilisateurs soupçonnés d’être liés au gouvernement chinois ont sollicité ChatGPT pour rédiger une proposition d’outil de censure à grande échelle et promouvoir un autre logiciel destiné à surveiller les comptes sur les réseaux sociaux à la recherche de “discours extrémistes”.
Selon Ben Nimmo, chercheur principal chez OpenAI, cette affaire souligne un risque croissant : l’exploitation de l’intelligence artificielle pour rendre les mécanismes de contrôle plus efficaces. En outre , il a expliqué à CNN que “la République populaire de Chine cherche à renforcer son usage de l’IA dans la surveillance et l’observation massive”.
ChatGPT ,une rivalité technologique accrue
Les États-Unis et la Chine se livrent une compétition intense dans le domaine de l’intelligence artificielle, chacun investissant des milliards de dollars dans le développement de nouvelles capacités. En outre, le rapport d’OpenAI montre toutefois que ces technologies sont souvent utilisées à des fins quotidiennes, comme l’analyse de données ou la rédaction de documents officiels, plutôt qu’à des fins d’innovation scientifique.
OpenAI cite notamment un utilisateur lié à un organisme gouvernemental chinois ayant demandé à ChatGPT d’élaborer une proposition d’outil capable d’analyser les déplacements et les fichiers de police de minorités telles que les Ouïghours. Aussi, un autre utilisateur, parlant chinois, aurait demandé une assistance pour créer des supports promotionnels d’un programme capable d’inspecter les plateformes X et Facebook afin d’identifier des contenus politiques ou religieux. Les deux comptes ont suspendus.
Réactions et contexte international
Interrogée par la presse, l’ambassade de Chine à Washington a rejeté les accusations, dénonçant des “attaques infondées contre la Chine”. En outre ,le porte-parole Liu Pengyu a ajouté que Pékin “met rapidement en place un système de gouvernance de l’IA à caractéristiques nationales”, conciliant “innovation, sécurité et inclusion”.
De plus, le rapport d’OpenAI révèle que des pirates présumés russes, nord-coréens et chinois ont également utilisé ChatGPT pour améliorer leurs logiciels ou rendre leurs campagnes de phishing plus crédibles. Toutefois, la société indique que ChatGPT désormais utilisé environ trois fois plus souvent pour détecter des fraudes que pour les commettre.
Aussi ,cette affaire illustre la double nature de l’intelligence artificielle : un outil puissant de progrès, mais aussi une arme potentielle entre les mains d’acteurs étatiques ou malveillants.
sujets connexes :
