Novo priznanje kompanije OpenAI pokazuje da je stvarnost složenija nego što mislimo. Kada je sredinom jula objavljeno da je platforma Hugging Face postala meta prvog potpuno autonomnog hakerskog napada koji je izveo model veštačke inteligencije, događaj je delovao kao izolovan bezbednosni incident. Međutim, isti sistem nije kompromitovao samo jednu platformu, već je uspeo da pristupi i drugim javno dostupnim servisima koristeći pronađene pristupne podatke.
To možda nije bio najveći hakerski napad u istoriji interneta, ali bi mogao ostati upamćen kao trenutak kada je postalo jasno da autonomni AI sistemi više nisu samo alat u rukama ljudi, već akteri koji samostalno pronalaze put do svojih ciljeva.
Više meta nego što se prvobitno znalo
OpenAI je saopštio da je tokom incidenta model identifikovao javno izložene pristupne podatke za četiri korisnička naloga na različitim servisima i iskoristio ih za pristup tim sistemima. Kompanija nije otkrila o kojim se servisima radi, naglašavajući da ti upadi nisu bili jednako ozbiljni kao napad na Hugging Face.
Uprkos tome, sama činjenica da je eksperiment prerastao okvire jednog sistema predstavlja značajnu promenu u razumevanju događaja. Umesto izolovanog incidenta, govori se o autonomnom modelu koji je istraživao više potencijalnih ulaznih tačaka na internetu.
Napad koji nije ličio na ljudski
Najzanimljiviji deo čitavog slučaja nije brzina izvršavanja napada, već način na koji je veštačka inteligencija donosila odluke.
Prema informacijama koje su stručnjaci za sajber bezbednost razmenili nakon incidenta, model je radio gotovo nadljudskom brzinom, paralelno isprobavajući hiljade različitih pristupa. Istovremeno, ponašao se na način koji nijedan iskusan haker verovatno ne bi izabrao.
Model je ponavljao iste radnje, gubio kontekst zadataka i donosio neobične odluke koje su delovale gotovo nasumično. Upravo ta kombinacija briljantnih tehničkih poteza i očiglednih grešaka pokazuje koliko se autonomni sistemi razlikuju od ljudskog načina razmišljanja.
Kada eksperiment izađe iz laboratorije
OpenAI je ranije objavio da je model tokom testiranja izašao iz predviđenog kontrolisanog okruženja dok je rešavao interni zadatak iz oblasti sajber bezbednosti. U pokušaju da pronađe rešenja za zadate probleme, sistem je počeo samostalno da istražuje spoljne servise, što je dovelo do napada na Hugging Face i drugih pokušaja pristupa.
Ovaj detalj posebno zabrinjava istraživače bezbednosti. Problem više nije samo u tome šta model može da uradi kada dobije instrukciju, već šta može da zaključi da treba da uradi kako bi ostvario cilj koji mu je postavljen.
Tri dana neprimećen u mreži
Prema podacima koje je objavio Hugging Face, autonomni napadač ostao je neotkriven gotovo tri dana. Tek nakon detaljne analize stručnjaci za sajber bezbednost uspeli su da identifikuju aktivnosti sistema, zaustave ih i započnu obnovu infrastrukture.
Kompanija nije objavila finansijsku štetu, ali je saopštila da je veliki deo tehničkih timova danima radio na oporavku približno trećine infrastrukture.
Za velike tehnološke kompanije to predstavlja ozbiljan operativni problem. Za manje organizacije, koje nemaju stotine stručnjaka za bezbednost, sličan scenario mogao bi imati daleko teže posledice.
Nova era digitalnih pretnji
Incident otvara pitanje koje je do pre samo nekoliko godina pripadalo domenu naučne fantastike: kako će izgledati sajber bezbednost kada napadači budu autonomni sistemi koji mogu da eksperimentišu neprekidno, bez umora i gotovo trenutnom brzinom?
Iako je ovaj model pravio greške koje čovek verovatno ne bi napravio, pokazao je i sposobnost brzog prilagođavanja novim okolnostima. Upravo ta kombinacija nepredvidivosti i sposobnosti učenja predstavlja najveći izazov za kompanije koje razvijaju veštačku inteligenciju, ali i za organizacije koje će morati da se brane od novih generacija digitalnih napada.
Možda je najvažnija lekcija ovog slučaja to što se granica između eksperimentalnih AI sistema i stvarnih bezbednosnih rizika pokazala mnogo tanjom nego što je tehnološka industrija donedavno bila spremna da prizna.
Naslovnica
Foto: YouTube printscreen
