OpenAI a pris des mesures d\u00e9cisives pour neutraliser une campagne d’influence russe secr\u00e8te qui exploitait l’intelligence artificielle pour manipuler l’opinion publique. Selon de r\u00e9centes r\u00e9v\u00e9lations de l’entreprise d’intelligence artificielle, l’op\u00e9ration utilisait des comptes automatis\u00e9s pour g\u00e9n\u00e9rer et amplifier du contenu soutenant les int\u00e9r\u00eats g\u00e9opolitiques russes tout en critiquant les gouvernements occidentaux. Cette op\u00e9ration met en lumi\u00e8re l’intersection croissante entre les syst\u00e8mes de texte g\u00e9n\u00e9ratif avanc\u00e9s et les cyberop\u00e9rations parrain\u00e9es par des \u00c9tats.<\/p>\n
L’action cibl\u00e9e d’application des r\u00e8gles s’est concentr\u00e9e sur un groupe de comptes originaires de Russie qui ont d\u00e9tourn\u00e9 des outils d’intelligence artificielle pour accro\u00eetre l’\u00e9chelle de leurs op\u00e9rations de messagerie. Plut\u00f4t que de s’en remettre uniquement \u00e0 des op\u00e9rateurs humains, la campagne a int\u00e9gr\u00e9 des mod\u00e8les de langage pour produire des r\u00e9cits convaincants et les diffuser sur de multiples canaux en ligne. L’objectif principal \u00e9tait de fabriquer une fa\u00e7ade de l\u00e9gitimit\u00e9 et un soutien analytique ind\u00e9pendant pour des points de vue g\u00e9opolitiques favorables \u00e0 Moscou.<\/p>\n
Les enqu\u00eateurs ont mis au jour des m\u00e9canismes sp\u00e9cifiques utilis\u00e9s par les acteurs malveillants pour masquer la v\u00e9ritable origine et l’intention de leurs messages :<\/p>\n
Le d\u00e9mant\u00e8lement de ce r\u00e9seau souligne une tendance persistante \u00e0 l’\u00e9chelle de l’industrie, o\u00f9 des acteurs malveillants tentent de d\u00e9tourner les technologies de langage g\u00e9n\u00e9ratif \u00e0 des fins de d\u00e9sinformation. Les \u00e9quipes de s\u00e9curit\u00e9 des grandes entreprises technologiques sont de plus en plus sollicit\u00e9es pour d\u00e9tecter des sch\u00e9mas comportementaux subtils, des abus d’API et des comportements inauthentiques coordonn\u00e9s qui imimitent le v\u00e9ritable discours humain. En cr\u00e9ant des entit\u00e9s frauduleuses telles que le centre de recherche fictif du Moyen-Orient, les acteurs malveillants cherchent \u00e0 contourner le scepticisme naturel des lecteurs.<\/p>\n
Les mesures d’application prises par OpenAI s’inscrivent dans le cadre d’un effort de surveillance continu visant \u00e0 identifier et \u00e0 neutraliser les utilisations trompeuses de ses syst\u00e8mes. \u00c0 mesure que les mod\u00e8les g\u00e9n\u00e9ratifs deviennent plus accessibles et plus fluides dans plusieurs langues, la distinction entre le d\u00e9bat public l\u00e9gitime et la manipulation soutenue par un \u00c9tat reste une priorit\u00e9 absolue pour les professionnels de la cybers\u00e9curit\u00e9, de la confiance et de la s\u00e9curit\u00e9.<\/p>\n