Británia začína vyšetrovanie sociálnej siete X z dôvodu závažných obvinení
Britský regulačný úrad Ofcom oznámil, že vyšetruje sociálnu sieť X, ktorú vlastní americký miliardár Elon Musk, na základe sťažností, že nástroj umelej inteligencie Grok na tejto platforme generuje falošné pornografické obrázky detí. Informácie o tomto prípade sprostredkovala agentúra AFP.
Podľa Ofcomu sú prioritou boj proti nelegálnemu obsahu na internete a ochrana detí. Vo vyhlásení uvedli, že sú si vedomí vážnych obáv týkajúcich sa funkcie Grok, ktorá produkuje nahé obrázky a sexualizované snímky detí. Ofcom uviedol, že urýchlene kontaktoval platformu X a startup xAI, aby zistil, aké opatrenia boli prijaté na ochranu používateľov v Spojenom kráľovstve.
Odpoveď zo strany týchto platforiem určí, či existujú problémy s dodržiavaním predpisov, ktoré by si vyžadovali ďalšie úradné vyšetrovanie. Tento krok nasleduje po tom, čo Európska únia prehlásila, že “vážne prešetruje” sťažnosti o Groku, ktorý údajne ponúka funkciu nazvanú “pikantný režim”, generujúcu explicitný obsah, vrátane obrázkov detí.
Hovorca EÚ pre digitálne záležitosti, Thomas Regnier, zdôraznil závažnosť situácie: „To nie je pikantné. To je nezákonné a desivé.“ V piatok predstavitelia aplikácie Grok priznali, že identifikovali chyby vo svojom systéme, ktoré vytvárajú riziko a uviedli, že naliehavo pracujú na odstránení týchto nedostatkov.
Podľa britského zákona o online bezpečnosti sú webové stránky a sociálne siete, kde môže byť zobrazený potenciálne škodlivý obsah, povinné zaviesť prísne overovanie veku pomocou technológií ako sú kontroly tváre alebo kreditné karty. Zákon zakazuje tiež, aby sociálne siete a podobné platformy vytvárali alebo zverejňovali intímne materiály bez súhlasu dotknutých osôb alebo materiály zobrazujúce sexuálne zneužívanie detí, vrátane deepfakeov vytvorených pomocou AI.
Celá situácia poukazuje na naliehavosť a potrebu zodpovednosti vo svetle informačných technológií a ich vplyvu na spoločnosť. Teraz je otázne, akými krokmi budú platformy reagovať na tento tlak a aký dopad to bude mať na budúcnosť ich prevádzkovania a ochrany používateľov.
