Turinys
- Kas yra gilus fake?
- Kaip veikia „deepfake“?
- Ištakos
- Pavojai
- Sprendimo suradimas
- Populiarus giluminio turinio turinys
„Deepfake“ turinys sukuria chaosą tarp žmonių, kurie užaugo su mintimi, kad mato, kad tiki. Nuotraukos ir vaizdo įrašai, kadaise laikomi neginčijamais įrodymais, kad kažkas vyksta, dabar yra apklausiami masių. To galima tikėtis sužinojus nuostabiai tikrovišką Baracko Obamos vaizdo įrašą, kuriame prezidentas Trumpas vadinamas „visišku ir viskuo panirusiu ****“, yra ne kas kita, kaip gilus netikras kūrinys.
„Deepfake“ turinys sukuria chaosą tarp žmonių, kurie užaugo su mintimi, kad mato, kad tiki.
Edgaras CervantesasTaikoma technika kelia antakius ir kelia klausimus, todėl mes esame čia, kad pateiktume jums visiškai gilų supratimą apie tai, kas tai yra, kaip ji veikia ir ar tikrai yra priežastis nerimauti.
Kas yra gilus fake?
„Deepfake“ yra AI (dirbtinio intelekto) technika, kuria naudojantis mašina mokoma kurti ar manipuliuoti turiniu. Jis dažnai naudojamas montažams kurti ar žmogaus veidui uždėti ant kito, tačiau jo galimybės apima daug daugiau. Ši technologija turi daugybę kitų programų. Tai apima manipuliavimą ar garso kūrimą, judėjimą, peizažus, gyvūnus ir dar daugiau.
Kaip veikia „deepfake“?
„Deepfake“ turinys kuriamas naudojant mašininio mokymosi metodą, žinomą kaip GAN (generatyvusis priešininkų tinklas). GAN naudoja du neuroninius tinklus: generatorių ir diskriminatorių. Jie nuolat konkuruoja vienas su kitu.
Generatorius bandys sukurti tikrovišką vaizdą, o diskriminatorius bandys nustatyti, ar jis netikras. Jei generatorius apgaudinėja diskriminatorių, jis naudoja surinktą informaciją tam, kad taptų geresniu teisėju. Be to, jei diskriminuojantis asmuo nustato, kad generatoriaus vaizdas yra suklastotas, generatorius geriau sukurs netikrą vaizdą. Nesibaigiantis ciklas gali tęstis tol, kol vaizdas, vaizdo įrašas ar garso įrašas iš žmogaus perspektyvos nebebus pastebimas.
Ištakos
Pirmieji „deepfake“ vaizdo įrašai buvo akivaizdžiai porno!
Edgaras CervantesasPirmieji „deepfake“ vaizdo įrašai buvo akivaizdžiai porno! Tiksliau, buvo įprasta matyti įžymybių veidus, derančius virš porno aktorių. Tarp kitų linksmų išradimų taip pat buvo populiarios Nicholas Cage'o meemos.
Žodis „deepfake“ tapo šios technikos sinonimu 2017 m., „Reddit“ vartotojo dėka, kuris pavadino „deepfakes“. Prie šio vartotojo dabar prisijungė kiti r / giluminiai subreddit, kur jie pasidalino savo kūryba su pasauliu.
Tikrasis generacinių prieštaringų tinklų kūrėjas yra Ianas Goodfellowas. Drauge su kolegomis jis supažindino su koncepcija 2014 m. Monrealio universitete. Vėliau jis perėjo dirbti į „Google“ ir šiuo metu dirba „Apple“.
Pavojai
Esant netinkamoms rankoms, gilios fake kūrimas gali būti panaudotas klastojant daug daugiau nei kvailas Nicholas Cage'o memes.
Edgaras CervantesasManipuliavimas turiniu nėra nieko naujo, tam reikėjo rimtų įgūdžių. Jums reikėjo galingo kompiuterio ir tikrai rimtos priežasties (arba tiesiog per daug laisvo laiko), kad padarytumėte padirbtą turinį. „Deepfake“ kūrimo programinė įranga, tokia kaip „FakeApp“, yra nemokama, lengvai randama ir nereikalauja daug kompiuterio galios. Kadangi visą šį darbą atlieka savarankiškai, jums nereikia būti kvalifikuotu redaktoriumi, kad padarytumėte beprotiškai realią gilios pakraipos mediją.
Štai kodėl plačioji visuomenė, įžymybės, politiniai subjektai ir vyriausybės nerimauja dėl giluminio judėjimo. Esant netinkamoms rankoms, gilios fake kūrimas gali būti panaudotas klastojant daug daugiau nei kvailas Nicholas Cage'o memes. Įsivaizduokite, kad kažkas kuria netikras naujienas ar kaltina vaizdo įrašus. Prie problemos galite pridėti netikrą ir keršto pornografiją. Viskas gali būti nepatogu greitai.
Kita priežastis nerimauti dėl labai netikro turinio yra ta, kad svarbios asmenybės taip pat galėtų paneigti praeities veiksmus. Kadangi „deepfake“ vaizdo įrašai atrodo tokie tikri, bet kas gali tvirtinti, kad tikras klipas yra gilus fake.
Taip pat skaitykite: Etikos ir AI sudėtingumas
Sprendimo suradimas
Nors treniruota akis yra labai arti tikrovės, ji vis tiek gali pastebėti netikrą vaizdo įrašą, atidžiai stebėdama. Susirūpinimas yra tas, kad tam tikru metu ateityje mes negalėsime pasakyti skirtumo.
„Twitter“, „Pornhub“, „Reddit“ ir kiti nesėkmingai bandė atsikratyti tokio turinio. Kalbant oficialiau, DARPA (Gynybos pažangiųjų tyrimų projektų agentūra) bendradarbiauja su mokslinių tyrimų įstaigomis ir Kolorado universitetu, kad sukurtų būdą pastebėti gilius įvykius.
Geriausia, ką galime padaryti kovojant su labai netikrais vaizdo įrašais, - būti dėmesingesniems ir mažiau klampiems.
Edgaras CervantesasKol neturime programinės įrangos, kuri galėtų pastebėti pažeidimus tokiuose vaizdo įrašuose, geriausia, ką galime padaryti, yra būti pastabesniems ir mažiau paklusniems. Prieš darydami prielaidą, kad vaizdo įrašas, vaizdas ar garso įrašas yra tikras, atlikite savo tyrimus. Bet kokiu atveju tai jau turėjome daryti.
Populiarus giluminio turinio turinys
Jordanas Peele prisijungia prie „Buzzfeed“, norėdamas sukurti šį vaizdo įrašą, skirtą sąmonei kurti.
Internetinės manipuliacijos ekspertė Claire Wardle parodo mums, kaip realistiški šie vaizdo įrašai gali pasirodyti pasirodžius Adelei per pirmąsias 30 vaizdo įrašo sekundžių. Šis „The New York Times“ vaizdo įrašas suteikia puikią įžvalgą šia tema.
„Watchmojo antaa“ sukūrė populiariausių aplinkinių vaizdo įrašų sąrašą. Tai įdomus vaizdo įrašas su daugybe puikių pavyzdžių.
Ar jus nerimauja dėl „netikrų“ vaizdo įrašų padarinių? Tai tikrai yra tema, kurią turėtume atsiminti, kartu dirbdami ieškant sprendimų.
