Zakázaná umelá inteligencia a čínska konkurencia
V Spojených štátoch došlo k významnej zmene v prístupe k regulácii umelej inteligencie, konkrétne k špičkovým systémom, ktoré sú schopné hlbokého učenia a analýzy bezpečnostných slabín. Po dvoch rokoch, počas ktorých americká vláda tolerovala určitú úroveň distribúcie moderných jazykových modelov, sa úrady rozhodli zaviesť prísne obmedzenia. Tento krok je reakciou na obavy z možného zneužitia týchto technológií, ktoré môžu odhaľovať zraniteľnosti v existujúcom softvéri.
Obmedzenia v distribúcii jazykových modelov
Prvými modelmi, ktorých verejná distribúcia bola zakázaná, sa stali Mythos Preview, Mythos 5 a Fable 5 od spoločnosti Anthropic. Následne boli obmedzenia rozšírené aj na nové modely z rodiny GPT 5.6 od OpenAI. Tieto opatrenia vyvolali diskusie medzi nezávislými vývojármi, ktorí upozorňujú, že existujú aj volne dostupné modely s rovnakými, alebo dokonca lepšími, schopnosťami, ktoré majú pôvod v Číne.
Riziká spojené s rozvojom AI a bezpečnostné testy
Vyplýva to z testovania, ktoré vykonala spoločnosť Semgrep, ktorej cieľom bolo zistiť, ako efektívne dokážu jazykové modely identifikovať bezpečnostné chyby, konkrétne v prípade IDOR (insecure direct object reference). Tento typ zraniteľnosti je častou príčinou únikov citlivých údajov z webových aplikácií. V testoch, ktoré porovnávali rôzne modely, sa model GLM-5.2 z čínskeho laboratória Z.ai ukázal ako najúčinnejší, s úspešnosťou 39 percent, v porovnaní s modelmi od Anthropic, ktoré dosiahli menej ako 33 percent.
Prekvapivé zistenia a porovnania
Autori štúdie podotýkajú, že úspešnosť modelov nesúvisí len s technológie, ale aj s používanými nástrojmi na analýzu bezpečnostných chýb. Napríklad nasadením zložitých prostredí na vyhľadávanie chýb dokázali dosiahnuť až 61 percent úspešnosti s modelom GPT 5.5. Celkový cieľ testovania bol zameraný na identifikáciu účinnosti modelov v reálnych aplikáciách, čo naďalej posilňuje dôležitosť maloobchodného prístupu k vyhodnocovaniu bezpečnostných rizík.
Otázky týkajúce sa regulácie AI
Vzhľadom na rastúcu konkurenciu a dostupnosť alternatívnych modelov z krajín ako Čína, americká regulácia čelí výzvam. Spoločnosť Anthropic navyše tvrdí, že obmedzenia zo strany vlády boli zrušené pre ich modely. Takže obdobie obmedzení môže mať krátkodobý efekt, ale dlhodobo môže viesť k posunu v dynamike medzi americkými a čínskymi technologickými lídrami v oblasti umelej inteligencie.
