Tehnološki giganti neretko potpuno nesmotreno kreiraju sve moćnije mašine, u vremenu u kome ljudska vrsta još uvek ne zna na koji način da ih učini bezbednim, što je idealan način da se utaba put scenariju iz Terminatora...
Ako je verovati brojnim ekspertima, uključujući i dva čoveka koji se nazivaju kumovima tehnologije, napredni sistemi veštačke inteligencije mogu u potpunosti uništiti civilizaciju. Svi ovi stručnjaci slažu se u jednom, velike tehnološke kompanije ignorišu opasnosti koje vrebaju i trebalo bi da budu odgovorne za štetu koju njihovi roboti nanose društvu.
Ovaj poziv na oprez dolazi pred samit o veštačkoj inteligenciji koji će se održati sledeće nedelje u Blečli Parku, gde će se naći političari sa svih strana sveta, zastupnici tehnoloških kompanija i akademici. Stjuart Rasel, profesor na katedri za računarske nauke Univerziteta Kalifornija, koautor politike predložene od strane 23 eksperta, nastaviće da ometa proizvodnju daleko naprednijih i moćnijih jedinica veštačke inteligencije, sve dok se ne nađu načini za zaustavljanje botova koji potencijalno mogu krenuti da prave haos.
Kako je ovaj čovek izjavio: „Radnje sa pecivom se suočavaju sa oštrijim regulatornim normama od tehnoloških giganata. Vreme je da se ozbiljno pozabavimo naprednim sistemima veštačke inteligencije. Ovo nisu igračke. Podizanje njihovih mogućnosti pre nego što shvatimo na koji način ih možemo učiniti bezbednim jednostavno je bezobzirno. Postoji više propisa za uslužne radnje nego za AI kompanije“.
Dokument koji je grupa okupljena oko ovog naučnika predstavila, urgira da svetske vlade prihvate opseg bezbednosnih mera uključujući i izmeštanje jedne trećine sredstava za istraživanje veštačke inteligencije iz njihovih kompanija u bezbednosne i etičke sisteme, zajedno sa dozvolom za prisustvo nezavisnih regulatornih tela u njihovim laboratorijama.
Vrhunski botovi trebalo bi da budu licencirani pre nego što budu kreirani, sa kompanijama koje je potrebno da uključe posebne mere ukoliko sa njihovim sistemima stižu i opasne mogućnosti. Pored toga, sve tehnološke kompanije moraju biti držane odgovornim za predvidivu i sprečivu štetu koju njihovi sistemi mogu izazvati. Saradnici na ovom dokumentu bili su Džefri Hinton i Jošua Bendžo, dvojica od trojice kumova veštačke inteligencije, koji su 2018. godine osvojili ACM Turing nagradu, što je ekvivalent Nobelovoj u svetu računarskih tehnologija.
Hinton je dao otkaz u kompaniji Google ove godine i upozorio je svet na nešto što naziva egzistencijalnim rizikom koji predstavlja digitalna inteligencija. Sa druge strane, Bendžo je profesor računarskih nauka na univerzitetu u Montrealu i takođe se pridružio ekspertima u otvorenom pismu tokom prošlog marta, izražavajući svoje sumnje u ove ogromne eksperimente sa veštačkom inteligencijom.
U izveštaju, autori upozoravaju na nesmotreno razvijene botove koji prete da pojačaju socijalnu nepravdu, podrivaju naše profesije, erodiraju društvenu stabilnost, omoguće kriminalne i terorističke aktivnosti na globalnom nivou, istovremeno oslabljujući naše zajedničko poimanje realnosti koja je osnov civilizacije. Kako stručnjaci tvrde, veštačka inteligencija već pokazuje zabrinjavajuće znake i sposobnosti da uskoro postane osposobljena za upravljanje bezbednosnim autonomnim sistemima, koji mogu planirati, slediti ciljeve i delovati u realnom svetu.
Drugi zahtevi ove velike grupe uključuju mandatorno izveštavanje o svim, pa i najsitnijim incidentima u okviru kojih botovi ispoljavaju alarmirajuće ponašanje, mere za sprečavanje samorepliciranja opasnih modela i pružanje regulatorne moći zadužene za stopiranje razvoja opasnih sistema. Samit koji će biti održan sledeće nedelje fokusiraće se na egzistencijalnim pretnjama od strane veštačke inteligencije, kao što su razvoj biološkog naoružanja i mogućnosti zanemarivanja ljudske kontrole.
Pojedini eksperti navode da je pretnja po ljudsku vrstu prenapumpana, sa Janom Lekanom, glavnim naučnikom za veštačku inteligenciju u kompaniji Meta, koji je izjavio da su tvrdnje kako bi ovi sistemi mogli da istrebe ljudu vrstu potpuno besmislene. Međutim, autori dokumenta koji će biti predstavljen na samitu navode da, ukoliko bi se napredni autonomni sistemi veštačke inteligencije sada pojavili, ljudi današnjice ne bi bili u mogućnosti da ih učine bezbednim.
N.Đ.
