Bil Gejts, jedan od ljudi koji su obeležili razvoj savremene tehnološke industrije, sada upozorava da veštačka inteligencija može postati oruđe sa potencijalom za katastrofu globalnih razmera ako njen razvoj ostane bez ozbiljnog državnog nadzora.
U intervjuu za NBC, koji je emitovan u emisiji Meet the Press, suosnivač Majkrosofta rekao je da bi veštačka inteligencija u pogrešnim rukama mogla da bude dovoljno moćna da pokrene događaje koji bi mogli da izazovu „milijardu smrtnih slučajeva“. Istovremeno je odbacio ideju da će se tehnološka industrija sama dovoljno dobro regulisati.
„Niko ne misli da je samoregulacija dovoljna“, rekao je Gejts, pozivajući američke zakonodavce i organe za sprovođenje zakona da propišu obavezne mere zaštite i nadzora.
Gejts više ne govori samo o budućnosti tehnologije
Ovo upozorenje je značajno upravo zato što dolazi od čoveka čija je karijera decenijama bila vezana za ideju tehnološkog napretka.
Gejts ne govori o tome da je veštačka inteligencija sama po sebi zloćudna tehnologija. Problem, prema njegovom scenariju, nastaje kada izuzetno moćni sistemi dospeju u ruke ljudi sa lošim namerama.
„Nikada nije postojalo oružje toliko moćno kao kombinacija ljudi sa lošim namerama i najnovijih alata veštačke inteligencije“, rekao je.
Upravo je ta kombinacija ono što njegovu procenu čini drugačijom od klasičnih upozorenja o tome da će mašine jednog dana „preuzeti svet“. Neposredniji rizik, kako ga Gejts vidi, nije nužno autonomna mašina koja odlučuje da uništi ljude, već ljudi koji dobijaju tehnologiju sposobnu da njihove namere učini mnogo opasnijim.
„Kill switch“ nije dovoljan
Gejts je odbacio i ideju da bi jednostavan prekidač za hitno isključivanje mogao da reši problem.
Takav sistem bi, u teoriji, omogućio ljudima da ugase veštačku inteligenciju ukoliko ona postane opasna ili izmakne kontroli. Međutim, Gejts smatra da je takav pristup nedovoljan, posebno ako sistemi u budućnosti budu sposobni da autonomno koriste računare i druge digitalne resurse.
Drugim rečima, pitanje više nije samo kako ugasiti jedan sistem, već kako kontrolisati tehnologiju koja može da bude povezana sa velikim brojem drugih sistema.
Zato Gejts insistira na nadzoru koji bi postojao od početka, a ne tek kada se pojavi problem.
Zašto traži obavezna pravila
Gejts smatra da bez zakonske obaveze tehnološke kompanije neće same uvesti dovoljno stroge mehanizme zaštite.
Njegov argument je jednostavan: dodatne bezbednosne procedure predstavljaju trošak za kompanije, ali taj trošak, prema njegovoj proceni, ne bi morao dramatično da uspori razvoj tehnologije.
„Potrebno je da se organi za sprovođenje zakona i političari uključe u razgovor o tome kako treba da izgledaju zaštitne mere i nadzor. I to mora da bude obavezno“, rekao je.
Time se rasprava o veštačkoj inteligenciji pomera sa pitanja šta tehnološke kompanije žele da urade na pitanje šta im država mora dozvoliti da urade.
Upozorenja više nisu samo Gejtsova
Gejts nije jedini poznati predstavnik tehnološke industrije koji poslednjih meseci govori o ozbiljnim rizicima veštačke inteligencije.
Slična upozorenja dolazila su i od drugih ljudi iz tehnološkog sektora, dok su pojedini američki političari počeli da predlažu stroža pravila za razvoj naprednih AI sistema. U septembru je senator Berni Sanders predložio privremenu obustavu razvoja napredne veštačke inteligencije dok se ne uspostave zaštitni mehanizmi.
Istovremeno, sve je više rasprava o tome da li se najmoćnije AI kompanije razvijaju brže nego što države uspevaju da naprave pravila kojima bi taj razvoj kontrolisale.
To je možda i najveći paradoks trenutnog razvoja veštačke inteligencije: industrija koja je godinama insistirala na tome da će tehnologija promeniti svet sada sve češće upozorava da bi upravo zbog njene moći država morala da postavi granice.
Od korisnog alata do potencijalnog oružja
Veštačka inteligencija već danas ima praktične primene u nauci, medicini, industriji, obrazovanju i svakodnevnom životu. Zbog toga je teško ozbiljno razgovarati o njenoj budućnosti kroz jednostavnu podelu na „dobru“ i „lošu“ tehnologiju.
Pravo pitanje je ko kontroliše njene najmoćnije verzije, ko određuje pravila njihovog korišćenja i šta se događa kada se tehnologija upotrebi za nešto za šta prvobitno nije bila namenjena.
Gejtsovo upozorenje o milijardi potencijalnih žrtava nije prognoza da će se takva katastrofa dogoditi. To je upozorenje o razmeri posledica koje bi, prema njegovom scenariju, mogle nastati ukoliko veoma moćni AI sistemi dospeju u pogrešne ruke.
A upravo zato je njegov zahtev za obaveznim nadzorom važniji od same dramatične brojke.
Jer pitanje koje se više ne može izbeći nije da li će veštačka inteligencija promeniti svet.
Već ko će, kada ta promena postane nepovratna, imati dovoljno moći da je kontroliše.
Naslovnica
Foto: YouTube printscreen
