SET PRAVILA
Nagli razvoj veštačke inteligencije motivisao je više hiljada stručnjaka, među kojima je i Elon Mask da zatraže pauzu u razvoju i uvođenje bezbednosnih standarda.
U otvorenom pismu su eksperti iz oblasti naučnih istraživanja i visoke tehnologije zatražili da se privremeno zaustavi razvoj veštačke inteligencije, kako bi se stvorio set pravila za tu tehnologiju.
Potpise je sakupila organizacija „Budućnost života“ (Future of life). U pismu se zahteva da se razviju bezbednosni standardi za razvoj veštačke inteligencije kako bi se izbegla šteta koju može da nanesu rizične tehnologije.
Pismo je do sada potpisalo više od hiljadu ljudi. Među njima su saosnivač Epla Stiv Voznijak, milijarder Ilon Mask, ali i pioniri razvoja veštačke inteligencije Stjuart Rasel i Džošua Benžio. Među potpisnicima su konkurenti trenutno najpoznatijeg modela veštačke inteligencije ChatGPT.
„Rizici su nemerljivi“
U pismu se navodi: „Sistemi veštačke inteligencije, koja stvara konkurenciju čoveku, mogu doneti velike rizike za društvo i čoveka. Moćni sistemi veštačke inteligencije bi trebalo da se stvore tek onda, kada budemo sigurni da će učinak biti pozitivan a rizik prihvatljiv“.
Takozvana generativna veštačka inteligencija kao što je ChatGTP-4 ili DALL-E je, prema potpisnicima, u međuvremenu toliko napredovala, da je i tvorci programa više ne razumeju ili ne mogu da ih delotvorno kontrolišu.
U pismu se kaže da bi informacioni kanali moguli biti preplavljeni propagandom i neistinama. Osim toga, poslovi koji se ne sastoje od rutinskih zahvata i koje ljudi doživljavaju kao zadovoljstvo, mogu da se zamene modelima veštačke inteligencije.
Zahtev da se napravi pauza u razvoju odnosi se na sledeću generaciju koja će biti moćnija od modela ChatGPT-4. Programeri koji rade na razvoju morali bi transparentno obustaviti taj posao. Ako se to ne desi, potpisnici zahtevaju od vlada da uvedu moratorijum.
„Širenje straha“
Profesorica informatike na univerzitetu Umeo u Švedskoj Johana Berklund kritikuje ovaj apel: „Nema razloga da se povlači ručna kočnica“. Ona kaže da bi samo trebalo da se pooštre pravila transparentnosti za programere i dodaje da apel služi jedino širenju straha.
I ChatGPT i DALL-E je razvila firma OpenAI, u kojoj značajni udeo ima Microsoft. Šef firme Sem Altman nije potpisao ovaj apel. Agencija Rojters je zamolila njegovu firmu da se oglasi ovim povodom, ali za sada nema reakcije.
Preduzetnik Ilon Mask je bio jedan od osnivača firme OpenAI, ali se povukao iz nje, kada se Altman odlučio da Microsoft bude partner. Otkako je ChatGPT predstavljen u novembru prošle godine zahuktala se borba za prevlast u ovoj branši između giganata kao što su Microsoft i Google. Novi modeli su ubrzano predstavljeni javnosti. Države kao što su Kina posmatraju veštačku inteligenciju kao strateški važan sektor i dopuštaju stručnjacima za razvoj veliku slobodu.
Sve više upozorenja na opasnost
U Nemačkoj je ovo pismo pozdravio Savez tehničkog nadzora (TÜV): „Apel pokazuje potrebu političkog delovanja u smeru jasne zakonske regulative veštačke inteligencije“, kaže Joahim Biler, rukovodilac poslova Saveza.
On je dodao da je to jedini način da se rizik pri razvoju posebno moćnih sistema veštačke inteligencije stavi pod kontrolu. Biler navodi da je zakonski okvir posebno neophodan tamo gde bi greške veštačke inteligencije mogle dovesti do fatalnih posledica, kao u medicini ili saobraćaju. „To stvara poverenje i podstiče inovativne ponude umesto da ih koči“, rekao je on.
I Evropska policijska služba Evropol upozorila je na rizike koje donosi veštačka inteligencija kao što je ChatGPT: „Sposobnost sistema ChatGPT, da stvori veoma realistične tekstove čini od njega koristan alat za ‘pecanje’.“
Radi se o mrežnoj krađi podataka (phishing) kako bi se obezbedio elektronski pristup tuđim računima u banci. Evropol je upozorio i na dezinformacione kampanje, koji se uz pomoć veštačke inteligencije mogu pokrenuti bez velikog truda. Osim toga, kriminalci bi mogli zahtevati od sistema veštačke inteligencije da im stvore štetne programe i softver.
Izvor: DW