Panašu, kad mėnuo nepraeina be aukšto rango žmogaus, kuris komentuotų dirbtinio intelekto mašinų galimybes užvaldyti pasaulį. Apie įrašus Elonas Muskas sako, kad AI sistemos yra „potencialiai pavojingesnės už branduolinį ginklą“. Tačiau jis nėra vienintelis, susirūpinęs ir Stephenas Hawkingas, „visiško dirbtinio intelekto sukūrimas galėtų paskatinti žmonijos pabaigą“. Profesorius Hawkingas pasakojo BBC. „Tai būtų savaime suplanuota ir pertvarkytųsi į vis didesnį tempą.“ Net Billas Gatesas nerimauja: „Aš esu stovykloje, kuriai rūpi super intelektas. Aš sutinku su Elonu Musku ir kai kuriais kitais dėl to ir nesuprantu, kodėl kai kuriems žmonėms tai nerūpi “.

Jie visi išreiškia susirūpinimą dėl galingų PG sistemų, galinčių sukelti netyčinių ar net potencialiai pražūtingų padarinių. Dar sausio mėnesį Elonas Muskas paaukojo 10 milijonų dolerių „Future of Life Institute“ (FLI), kad galėtų vykdyti pasaulinę tyrimų programą, kurios tikslas - išlaikyti AI naudingą žmonijai.

Šiandien „Ateities gyvenimo institutas“ paskelbė skyręs 7 milijonus dolerių lėšų 37 tyrimų komandoms visame pasaulyje, kad visuomenė galėtų pasinaudoti AI teikiama nauda, ​​vengdama apokalipsės ir gyvenimo pabaigos žemėje.

„Terminatoriaus“ scenarijaus pavojus yra ne tai, kad jis įvyks, o tai, kad atitraukia nuo realių problemų, kurias kelia būsimoji AI.

Jaanas Tallinas, vienas iš FLI steigėjų ir vaikinas, parašęs originalią „Skype“ versiją, sakė apie naujus tyrimus: „Pažangios AI sukūrimas yra tarsi raketos paleidimas. Pirmasis iššūkis yra maksimaliai padidinti pagreitį, tačiau kai tik jis pradeda didėti, reikia sutelkti dėmesį į vairavimą. “

Tarp 37 projektų yra trys projektai, kuriuose bus nagrinėjama metodika, leidžianti PG sistemoms išmokti tai, ko žmonės renkasi stebėdami mūsų elgesį. Vienas iš šių projektų bus vykdomas UC Berkeley, o kitas - Oksfordo universitete.

Mašinų intelekto tyrimų institute Benja Fallenstein gauna 250 000 dolerių, kad ištirtų būdus, kaip išlaikyti super intelektualių sistemų interesus suderintus su žmogiškosiomis vertybėmis. Kol Manuela Veloso komanda iš Carnegie-Mellon universiteto gaus 200 000 USD, kad galėtų išsiaiškinti, kaip AI sistemos paaiškinti žmonėms savo sprendimus.

Kiti projektai apima Michaelio Webbo iš Stanfordo universiteto tyrimą, kaip išlaikyti AI ekonominį poveikį, projektą, kaip išlaikyti AI varomus ginklus „prasmingoje žmogaus kontrolėje“ ir naują Oksfordo – Kembridžo tyrimų centrą, skirtą AI tirti. -atitinkama politika.

Tai paskutinis yra didelis jackpotas. Naujajam centrui, vadinamam „Dirbtinio intelekto strateginių tyrimų centru“, vadovaus Nickas Bostromas, vaikinas, parašęs knygą, sukėlusią Elonui paniką apie žmonijos ateitį. Norėdami įkurti centrą, FLI skiria „Bostrom“ 1,5 milijardo dolerių. Kas sakė, kad nebuvo pinigų rašyti medžiagą apie robotus, užvaldančius pasaulį? Na, iš tikrųjų niekas, tiesiog pažiūrėkite, kiek pinigų uždirba Holivudas iš to žanro!

Kalbėdamas apie Holivudą, FLI bando atsiriboti nuo apokalipsės. FLI nori pabrėžti, kad svarbu atskirti faktą nuo grožinės literatūros. „Terminatoriaus scenarijaus pavojus yra ne tai, kad jis įvyks, bet kad jis atitraukia nuo realių ateities AI keliamų problemų“, - sakė FLI prezidentas Maxas Tegmarkas. „Mes esame susitelkę ir 37 komandos, kurioms šiandien suteikiamos dotacijos, turėtų padėti išspręsti tokias tikras problemas.“

Ką tu manai? Gerai išleisti pinigai?