OpenAI zmarila dve vplyvové operácie z Ruska a Iránu
Americká spoločnosť OpenAI vo štvrtok oznámila, že zmarila dve vplyvové operácie z Ruska a Iránu. Odtiaľ pochádzajúce účty údajne využívali nástroj ChatGPT okrem iného na podporu fiktívnych novinárskych osobností a prevádzkovanie podvodného think-tanku na šírenie protiukrajinskej propagandy.
„Tieto subjekty využili na to, aby do svojich cieľových skupín vnášali geopolitické posolstvá súvisiace s konfliktmi,“ uviedla OpenAI vo svojom blogu k operáciám zahŕňajúcim falošné krytie.
Účty, ktoré vznikli v Rusku, využívali ChatGPT na rôzne úlohy a sústredili sa na krajiny Latinskej Ameriky. Cieľom veľkej časti ich aktivít bolo podľa OpenAI zrejme poškodiť povesť Ukrajiny. Okrem toho sa ale údajne snažili ovplyvniť aj politické dianie v Argentíne a Bolívii.
Ruská operácia „prispela k napätiu vo vzťahoch medzi Ukrajinou a Poľskom“ a zapojila nič netušiacich ľudí do prevádzky tzv. Centra sociálneho výskumu (SRC), fiktívneho think tanku, ktorý najímal zamestnancov v Latinskej Amerike a podvádzal regionálne inštitúcie.
„Dostupné dôkazy naznačujú, že zamestnanci SRC v Latinskej Amerike si neboli vedomí toho, že pracujú pre ruskú skupinu,“ uviedla OpenAI s tým, že SRC je výsledkom „najkomplexnejšieho pokusu o prevádzkovanie krycej identity“, ktorý za posledného dva a pol roka odhalila.
Iránska operácia zahŕňala sedem profilov údajných novinárov, z ktorých každý sa vydával za osobu zo západných krajín vrátane USA. Tieto profily slúžili na šírenie dlhých článkov v médiách po celom svete. OpenAI identifikovala takmer 100 textov, ktoré boli uverejnené alebo distribuované v približne tucte malých až stredne veľkých internetových médií všeobecne zameraných na medzinárodné dianie, geopolitiku a udalosti na Blízkom východe.
Jednou z týchto fiktívnych osobností bol Ervin B. Hoskins. Ten mal účty na sieťach X a Instagram a uvádzal o sebe, že je „americkým nezávislým spisovateľom“. Podľa informácií z X účet vznikol v západnej Ázii. Z údajov Instagramu vyplýva, že tamojší účet mal sídlo v Iráne. Oba boli už medzičasom zrejme pozastavené.
Ruská aj iránska vplyvová operácia vo veľkej miere využívali umelú inteligenciu na vypracovanie interných správ a boli nezvyčajné aj svojím potenciálnym dosahom. Podľa OpenAI totiž dokázali svoj obsah dostať nielen na sociálne siete, ale aj do tradičných médií.
„Umelá inteligencia môže takýmto operáciám pod falošným krytím poskytnúť väčší rozsah, efektívnosť, jazykovú plynulosť a redakčné schopnosti. Tieto výhody môžu prevádzkovatelia využiť na zneužitie nič netušiacich obetí, ako sú zamestnanci alebo redaktori, a umiestniť svoj obsah pre publikum, ktoré nemá ani tušenie, kto za ním stojí, ani aké boli jeho motívy,“ upozornila OpenAI.
