Ilija Sutskever čini da Black Mirror: Bandersnatch deluje kao previše realna mogućnost, nakon što je direktor i glavni naučnih OpenAi istraživačke grupe iskoristio Twiter kako bi najavio mogućnost da današnje velike neuralne mreže mogu biti svesne u manjim razmerama.
Ilija je suosnivač ove organizacije nastale 2015. godine, zajedno sa izvršnim direktorom Semom Altmanom i izvršnim direktorom kompanije SpaceX, Elonom Maskom. Tehnologija možda jeste stvorila brojne prednosti poslednjih nekoliko decenija, ali ovo novo otkriće je verovatno najuzbudljivije, ili najzastrašujuće od svih dosadašnjih, u zavisnosti kako posmatrate stvari i mogućnost da roboti već rade na načinu za dostizanje nivoa ljudske inteligencije.
it may be that today's large neural networks are slightly conscious
— Ilya Sutskever (@ilyasut) February 9, 2022
OpenAI je zvanično osnovana kao neprofitna organizacija za borbu protiv potencijalnih rizika koje mogu stići sa mašinskom svešću. Kako ovaj konglomerat ističe, njegovu misiju predstavlja osiguravanje da generalna veštačka inteligencija služi čovečanstvu, međutim, iznenada, kompanija je napravila pun zaokret i nastavila da razvija i u budućnosti pomogne veštačkoj inteligenciji da raste.
Pojavivši se u dokumentarcu nazvanom iHuman Sutskever tvrdi da generalna veštačka inteligencija ne samo da ima snagu kako bi razrešila sve probleme sa kojima se susrećemo danas, već takođe poseduje potencijal upostavljanja beskonačno stabilne diktature. Tamej Besiroglu, student informatike i veštačke inteligencije na MIT univerzitetu, odgovorio je na Ilijin tvit podelivši rad na poslednjim računarskim tehnologijama, pružajući uvid u naučnikove tvrdnje.
Our recent paper on compute trends in ML has some insights: https://t.co/r469nbgSSY pic.twitter.com/ReMRRuh2KN
— Tamay Besiroglu (@tamaybes) February 15, 2022
Na grafikonu trening proračuna sistema mašinskog učenja, tokom vremena je moguće primetiti da on dostiže vrhunac u tački gde je moguće nastajanje blage svesti tokom kraja 2020. godine, u terminima „ere velikih razmera“. Era dubokog učenja i dalje nije stigla iznad tačke svesti na grafikonu, zaključno sa prošlom godinom.
Međutim, podaci su označeni od strane drugog korisnika kao ekstremno probirljivi i društveni, ostavljajući malo vidnih dokaza koji bi mogli potkrepiti Sutskeverove tvrdnje. Tokom 2019. godine, OpenAI našao se u centru skandala nakon što su procurele glasine da ova organizacija kreira opasni generator koji širi lažne vesti. Mask je nedavno napustio kompaniju, naglašavajući da se ne slaže sa pojedinim stvarima i onim što OpenAI želi da uradi.
Nope.
— Yann LeCun (@ylecun) February 12, 2022
Not even for true for small values of "slightly conscious" and large values of "large neural nets".
I think you would need a particular kind of macro-architecture that none of the current networks possess.
Nedugo nakon toga, organizacija je postala profitabilna u svakom smislu i u suštoj suprotnosti sa onim načelima na kojim je nastala. Mask je od tada otišao i izvukao ozbiljne prednosti iz svog posla sa proizvodnjom automobila, ali je takođe otkrio da će kompanija uraditi sve što može da dostigne decentralizaciju kontrole nad robotima, pred predstavljanje Tesla humanoidnih robota, koji mogu imati udela u razvoju velike neuralne mreže.
Misija OpenAI organizacije možda može osigurati da veštačka inteligencija bude prednost za čitavo čovečanstvo, ali umesto da ona bude uključena u autonomna vozila, prvo što svakome pada na pamet jeste mogućnost nastajanja avatara čija je svaka akcija unapred planirana i kontrolisana od strane neke više sile.
OpenAI’s mission is to ensure that artificial intelligence benefits all of humanity.
— OpenAI (@OpenAI) February 15, 2022
An important part of this effort is training AI systems to align with human intentions and human values.
Learn more about our alignment research: https://t.co/1KsmajXNui pic.twitter.com/ANF9BUlacA
N.Đ.
