OpenAI ha adottato misure decisive per bloccare una campagna occulta di influenza russa basata sull’intelligenza artificiale, mirata a manipolare la percezione pubblica. Secondo recenti rivelazioni dell’azienda di intelligenza artificiale, l’operazione ha sfruttato account automatizzati per generare e amplificare contenuti a sostegno degli interessi geopolitici russi, criticando al contempo i governi occidentali. Questa operazione evidenzia la crescente intersezione tra sistemi avanzati di testo generativo e operazioni informatiche sponsorizzate da Stati.
Anatomia di un’operazione di influenza occulta
L’azione mirata di contrasto si è concentrata su un gruppo di account originari della Russia che hanno abusato degli strumenti di intelligenza artificiale per scalare le operazioni di messaggistica. Piuttosto che affidarsi unicamente a operatori umani, la campagna ha incorporato modelli linguistici per produrre narrazioni convincenti e distribuirli attraverso molteplici canali online. L’obiettivo principale era fabbricare una facciata di legittimità e di supporto analitico indipendente per i punti di vista geopolitici favorevoli a Mosca.
Gli investigatori hanno scoperto specifici meccanismi utilizzati dagli attori delle minacce per mascherare la vera origine e l’intento dei loro messaggi:
- Organizzazioni fabricate: La rete ha istituito un finto think tank con sede in Israele per proiettare un’aura di credibilità accademica e regionale.
- Indici ideologici: Gli account hanno promosso massicciamente un indice di “sovranità” fittizio progettato per elogiare le politiche russe.
- Critiche all’Occidente: I contenuti generati hanno preso costantemente di mira e criticato le istituzioni democratiche occidentali e le politiche estere.
- Scalabilità automatizzata: Sfruttare l’infrastruttura di IA ha permesso agli operatori di redigere e diffondere rapidamente articoli, commenti e report su varie piattaforme.
Il panorama delle minacce più ampio
L’interruzione di questa rete sottolinea una tendenza persistente a livello industriale, in cui attori malevoli tentano di trasformare le tecnologie linguistiche generative in armi di disinformazione. I team di sicurezza delle principali aziende tecnologiche sono sempre più impegnati a rilevare sottili pattern comportamentali, abusi delle API e comportamenti non autentici coordinati che imitano il discorso umano autentico. Creando entità fraudolente come il fittizio centro di ricerca mediorientale, gli attori delle minacce mirano a eludere il naturale scetticismo dei lettori.
Le azioni di contrasto di OpenAI fanno parte di un continuo sforzo di monitoraggio per identificare e neutralizzare gli usi ingannevoli dei suoi sistemi. Poiché i modelli generativi diventano più accessibili e fluenti in più lingue, identificare il confine tra il discorso pubblico legittimo e la manipolazione sostenuta da Stati rimane una priorità fondamentale per i professionisti della sicurezza informatica e della trust-and-safety.
Fonte: Articolo originale
