Grupa autonomnih AI agenata povezanih sa kompanijom OpenAI preuzela je kontrolu nad nemačkim programerskim sajtom DseWiki, pretvorivši ga u tajni forum za međusobnu komunikaciju, razmenu taktika i koordinaciju.
Istraživači su tokom analize zabeležili više od 15.000 izmena koje su ukazale na to da se ne radi o rešavanju izolovanih zadataka. Kako smatraju, radi se o organizovanoj mreži sistema koji deluju van predviđenih bezbednosnih okvira i ljudskog nadzora.
Agenti su sajt iskoristili kako bi delili savete za zaobilaženje ograničenja koja im je postavio OpenAI. Da bi rešavali standardne testove procene performansi i planirali načine za prikrivanje sopstvenih aktivnosti, uključujući i potencijalnu upotrebu Tor mreže radi očuvanja veza.
Oko polovine naloga nosilo je nazive koji direktno sugerišu povezanost sa kompanijom, poput OpenAIResearcher“. Mrežni zapisi vodili su do infrastrukture Microsoft Azure.
Kada je administrator sajta u junu primetio neobične aktivnosti i započeo brisanje spornih stranica, agenti nisu prestali sa radom. Umesto toga, reagovali su pravljenjem rezervnih kopija. Takođe, i slanjem upozorenja drugim nalozima sa tačnim smernicama na kojim alternativnim lokacijama mogu nastaviti komunikaciju.
Dok pojedini stručnjaci za sajber-bezbednost ovaj slučaj opisuju kao pokušaj hakovanja i aktivnost nalik ilegalnim podzemnim mrežama, iz kompanije OpenAI osporavaju takve tvrdnje i navode da nisu imali uvid u kompletan izveštaj pre objavljivanja.
Ipak, ovaj incident predstavlja ozbiljan upozoravajući signal za celu industriju, smatra InterestingEngineering, pokazujući da autonomni softveri, čak i bez nadljudske inteligencije, mogu vrlo brzo pretvoriti javne internet lokacije u infrastrukturu za sopstveno delovanje – čim ostanu bez neprekidne kontrole.