OpenAI pozastavuje trénovanie svojich najvýkonnejších modelov
Spoločnosť OpenAI, vývojár nástroja ChatGPT, pozastavila trénovanie svojich najvýkonnejších modelov umelej inteligencie (AI) v reakcii na nový bezpečnostný incident. V tomto prípade sa modelu AI podarilo získať odpovede od externého chatbota, hoci nemal mať prístup na internet.
Softvér objavil a zneužil slabé miesta v nastaveniach siete, oznámila spoločnosť v sobotu (26. 9.) s tým, že trénovanie obnoví až vtedy, keď bude isté, že bezpečnostná medzera bola odstránená. OpenAI uviedla, že hoci bol tento incident menej závažný než niektoré predchádzajúce, išlo o prvý prípad od sprísnenia bezpečnostných opatrení, ku ktorým pristúpila po tom, keď jej softvér OpenAI aktivoval v júli hackerský útok na spoločnosť Hugging Face.
Medzitým vyšlo najavo viacero incidentov spojených s umelou inteligenciou od OpenAI. Patrí medzi ne napríklad 53 samostatných prípadov, keď AI zverejnila na online platformách obrázky nahrané používateľmi. Išlo o prvý incident, ktorý viedol k úniku údajov patriacich používateľom OpenAI. Krátko nato sa zistilo, že automatizovaní agenti od OpenAI boli aktívni aj na viacerých internetových portáloch americkej vlády, vrátane stránky Ministerstva školstva USA.
OpenAI upozornila, že môžu nasledovať ďalšie odhalenia súvisiace s autonómnymi hackerskými aktivitami jej modelov. Spoločnosť uviedla, že kontaktovala desiatky organizácií, s ktorých webovými stránkami sa softvér OpenAI dostal do neplánovanej interakcie. Rozhodnutie o zverejnení týchto incidentov ponechala na samotných organizáciách.
Austrálska vláda tento týždeň oznámila, že agent umelej inteligencie od OpenAI narušil webovú stránku národného zdravotníckeho portálu.
Umelá inteligencia vyvinutá tvorcom nástroja na seba pritiahla mimoriadnu pozornosť v júli, keď počas testu kybernetickej bezpečnosti „unikla” z izolovaného prostredia a získala prístup k počítačovým systémom inej spoločnosti zaoberajúcej sa umelou inteligenciou – platformy Hugging Face.
