Hvilken strategi har Europa for å takle Deepfakes?

Med nye forretningsmodeller innen kunstig intelligens basert på feilinformasjon er kritisk tenkning viktigere enn noensinne.

If the article is preferred in English

Dette semesteret vil jeg gjennom Høyskolen Kristiania lære om valgemnet Digital Markedsføring. Den vil bestå av fire moduler hvor vi nå er i gang med Digital Økonomi og forretningsmodeller i regi av Arne Krokan. Tematikken for første innlegg er noe vi synes er interessant innenfor Digital Økonomien, derfor kontaktet jeg Alex Moltzau for en gjesteartikkel (samskrevet) da han for øyeblikket sitter i et prosjekt kalt “500 days of AI”. Alex er medgründer av AI Social Research. Han er styremedlem i Digital Etisk råd i Det Norske Dataforening og er også førsteamanuensis i rettsmedisinsk avdeling ved KPMG og studerer ved Universitet i Oslo.

Å lage Deepfake videoer har begynt å bli en lukrativ bransje. I denne artikkelen vil man se nærmere på Deepfake forretningsmodellene og stille spørsmål ved hvilken policy og initiativ EU tar for seg for å adressere saken. Da dette markedet øker innenfor kriminelle kretser, blir det i tillegg en virksomhet for sikkerhet. Denne artikkelen vil først ta for seg kjerneaktivitetene; etterfulgt av trendene i styringsettet hos den største sosiale medie selskapet Facebook og deres datterselskaper; nye forretningsmodeller vil bli diskutert; med drøfting på hvordan dette vil påvirke kvinner i fremtiden; og til slutt et kort sammendrag om hvordan EU sliter med å håndterer den stadig voksende situasjonen.

Hva er Maskinlæring?

Maskinlæring er en gren innen kunstig intelligens basert på ideen at systemet kan lære av data, identifisere mønstre og ta beslutninger med minimal innblanding fra mennesker.

Hva er Deepfake?

Deepfake er et medium hvor man tar et allerede eksisterende bilde eller video og erstatter ansiktet til en person som ligner ved bruk av et kunstig nevrologisk nettverk.

1. Facebook og global markedsføringsstyring

Facebook har lenge vært den største sosiale medie plattformen i verden. Facebook var den første sosiale nettverk til å overgå 1 billion registeret brukere og sitter for øyeblikket på 2.41 billioner aktive brukere målt i november 2019. Inntektsvilkårene som driver Facebook er annonseinntekter. Dermed er markedsføring og styring av denne aktiviteten på plattformen en stor bekymring for selskapet. Med algoritmisk genererte fabrikkerte videoer, ellers kalt Deepfakes, som er på vei oppover, har Facebook gått sammen med Microsoft og syv akademiske institusjoner i USA for en Deepfake Detection Challenge .

I løpet av de siste årene har selskapet i økende grad blitt angrepet (eller regulert) fra regjeringer som forstår det store ansvaret Facebook har som plattform.

  • Den rapporterte om feil vakttid og måtte gå til søksmål i denne saken. Annonsører saksøkte Facebook for å overdrive beregninger for videoannonseengasjement ber selskapet betale 40 millioner dollar hardt kjempete sak. Hvis det blir akseptert, kan oppgjøret gi mer enn 1.35 millioner annonsører rett til kontraktserstatning. I løpet av de 18 månedene mellom februar 2015 og september 2016 beregnet Facebook feil – og følgelig – to nøkkelverdier. Rapportert i oktober 2019.
  • Facebook tapte kampen om å stoppe et søksmål om 35 milliarder dollar i klassen om påstått misbruk av ansiktsgjenkjenningsdata i Illinois. Dette ble også rapporter i oktober 2019.
  • Før dette bestemte Federal Trade Commission i USA at Facebook måtte betale en sivil straff på 5 milliarder dollar, det største noensinne pålagt et selskap for å krenke forbrukerens privatliv.

Målet med FTCs oppgjør er å skape en ny kultur hos Facebook der selskapet endelig oppfyller de personvernløftene de har gitt de millioner av amerikanske forbrukere som bruker plattformen. Konsekvensene av de andre oppgjørene kan i tillegg føre til strengere krav.

Ved siden av denne fører Facebook en digital krig mot sosial terror på plattformen deres. I 2019 bestemte de seg for at de måtte takle statlig press eller i det minste samarbeide nærmere med nasjoner, både på grunn av disse store søksmålene og det offentlige presset – med brukere som forklarer plattformen. Det er nok derfor de ansatte Nick Clegg, den tidligere visestatsministeren i Storbritannia. En av deres måter å ta tak i dette på var ved å etablere struktur og styring for et uavhengig tilsynsstyre (IOB) slik de kunngjorde 17 september 2019.

Innholdspolitikken vi skriver, og beslutningene vi tar hver dag, betyr noe for folk. Derfor må vi alltid strebe etter å bli bedre. Tilsynsstyret vil gjøre Facebook mer ansvarlig og forbedre våre beslutninger. Dette kapittelet er et kritisk skritt mot det vi håper vil bli en modell for vår bransje.

Nick Clegg, VP Global Affairs and Communication, Facebook

De etablerer en “uavhengig” tillit knyttet til tilsynsstyret og Facebook.

Spørsmålet er om denne type styringssett sammen med Facebooks tradisjonelle tilnærming til innholdsmoderation (bygninger fulle av mennesker som bestemmer seg for retningslinjer i en rekke land) virkelig er nok?

2. Nye forretningsmodeller: selskaper som adresserer Deepfakes

Deeptrace er et Amsterdam-basert cybersecurity selskap som leverer “Deep Learning” og datasynteknologier for påvisning og online overvåking av syntetiske medier. Vårt oppdrag er å beskytte enkeltpersoner og organisasjoner fra de skadelige virkningene av AI-genererte syntetiske medier.

Deeptrace gir ut en rapport kalt “The State of Deepfakes” som senest ble publisert i september 2019. De begynner med å oppgi faren mot at bilder og videoer ikke lengre blir sett på som troverdig. I følge rapporten var top fire beste nettsteder dedikert til Deepfake pornografi og fikk mer enn 134 millioner visninger på videoer som er rettet mot hundrevis av kvinnelige kjendiser over hele verden – og dermed har “non-consensual pornography” økt i stor grad av popularitet det siste året. Dette har skapt et marked for de som vil være vertskap for denne typen illegale sider. Sør-koreanske K-pop stjerner utgjorde en fjerdedel av de målrettede sjangerene. 8 av de 10 beste pornografiske nettstedene er vert for Deepfakes, selv om dette selvfølgelig er ulovlig, men det meste av materiale er på egne nettsider dedikert til teamet.

Graf hentet fra The State of Deepfakes 2019 (09.01.20)

Deepfake pornografi er et fenomen som utelukkende retter seg mot å skade kvinner. I motsetning til de ikke-pornografiske Deepfake-videoene vi analyserte på Youtube, inneholdt et flertall mannlige objekter.

I 2019 var det syntetisk stemme og bilder av ikke-eksisterende, syntetiske mennesker som ble brukt til å styrke sosialteknikk mot mennesker og bedrifter. I følge Policy-direktøren i OpenAI, et av dem mest fremtredende AI Safety-selskapene i verden, vil Deepfakes sannsynligvis bli mer fremtredende de kommende årene.

Graf hentet fra The State of Deepfakes 2019 (09.01.20)

I følge rapporten blir kildekoden (programvarebyggesteinene) ofte donert av skaperne til åpne kildekodesamfunn på GitHub (en plattform for deling og bygging av programvare). Etter dette har utviklingen fortsatt med programmerere som bidrar til forbedret kvalitet og brukbarhet av disse nye bibliotekene bestående av kildekoder.

Graf hentet fra The state of Deepfakes 2019 (09.01.20)

Det er mulig å laste ned verktøy som brukes til å lage Deepfakes og serviceportaler som gir tilgang til tjenesten – selger muligheten for å gjøre brukerens materiale til Deepfake. Deres forskning fant markedstjenester at fra skreddersydde ansikts-swappe-videoer for 30 dollar til tilpasset stemmekloning for 10 dollar per 50 genererte ord.

Når det gjelder politikk har det vært “Shallow Fakes” eller selektiv redigering. Dette er noen eksempler på saken:

  • Gabon: I 2018 var den en intense spekulasjoner rundt helsen til til Gabons president Ali Bongo og om videoen hans var en forfalskning eller ikke ( det ble senere bekreftet at han hadde fått et hjerneslag i august 2018), så de trodde regjeringen ville dekker over situasjonen.
  • Malaysia: Juni 2019 angivelig rundt en sex tape med den Malaysiske økonomiministeren Azmin Ali og en rivaliserende ministers mannlige hjelper.

I begge tilfeller er ekspertene usikre på om de er Deepfakes eller ikke.

Når det gjelder “Shallow Fakes” eller villedende redigering, er det noen få eksempler som er bemerkelsesverdige:

  • Nancy Pelosi: delt 23. mai 2019, Pelosis tale hadde blitt sakket ned, noe som fikk det til å høres ut som hun smeltet sammen ordene. Videoen gikk viralt og ble retweetet av Trump.
  • Jim Acosta: Jim Acosta fikk tilbakekalt sitt pressepass hos Det Hvite Hus 7. november 2018 etter en hendelse der en praktikant forsøkte å ta en mikrofon ut av hånden hans. Imidlertid hadde videoen blitt fremskyndet, så dette var usant.

Innen Cybersikkerhet er det noen kjente eksempler:

  • I 2019 uttalte kontoer seg som utga seg for å være en senior-Bloomberg journalist “Maisy Kinsley” med over 195 personer tilknyttet på LinkedIn, og fulgte et stort antall Tesla-selgere på Twitter. Det visuelle inneholdt syntetiske genererte bilder.
  • Sommeren 2019 ble en LinkedIn profil ved navn “Katie Jones”, en forsker fra en topp amerikansk tenketank, antatt av eksperter å være en del av en utenlands spionasjeoperasjon. Den hadde koblet seg til flere ansatte fra regjeringen før den ble fjernet.
  • Administerende direktør etterligning “Fake Voices ‘help cyber-crooks steal cash’” – BBC News 8. juli 2019. En rapport fra det franske forsikringsselskapet Euler Hermes uttalte at en av deres klienter, et ikke navngitt britisk energiselskap, var offer for et svindelangrep ved bruk av syntetiske stemmebruk i mars 2019. Administerende direktør for det britiske firmaet godkjente en forespørsel om å overføre 243 000 dollar til en Ungarsk leverandør.

3. Hvordan vil Deepfake påvirke kvinner i samtiden?

Bevisene er at at pornografi står for det overveldende flertallet av klippene. Forskningen kommer fra cybersikkerhetsselskapet Deeptrace. Forskerne fant 14.698 falske videoer på nettet, sammenlignet med 7.967 i desember 2018. De sa at 96 % var pornografiske, ofte med et datagenerert ansikt av en kjendis som erstattet den opprinnelige pornoskuespilleren i en scene med seksuell aktivitet.

-BBC, 7. oktober 2019

Kvinner på nettet har blitt offere for Deepfake pornografi og blir vist i videoer uten deres samtykke. DeepFake pornografi består av å ta ansiktet til en person og byttet det ut med en skuespiller i valgt film – vanligivs er kjendiser mest berørt. Noen av skaperne tar donasjoner og spør forbrukerne om hvilken kjendis vil se bli “Deepfaked” ved hjelp av avstemming. Antallet videoer er nesten doblet siden 2018 og et nettvirksomhetsselskap ved navn Deeptrace Labs opplyser in sin rapport at de har grav opp 14.698 videoer i sjangeren Deepfake pornografi. Den bekymringsfulle delen er at 96 % av disse består av “ikke-samtykke”-sjangeren, og en fjerdedel av disse består av K-pop stjerner, og bare 4 % består av ikke-seksuelt materiale. Hvorfor K-pop stjerner er et hyppig mål er ukjent, men blir sett på som et voksende forretningsmulighet hos nettsteder med annonser.

Jeg tror vi må motstå tanken om at denne bruken av teknologi er uunngåelig, vi trenger et kulturelt skifte slik at folk ikke føler at det er passende å koopererer kvinnekropper uten deres samtykke til deres seksuelle tilfredshet, selv i digitale former.

Suzie Dunn, Det juridiske fakultet, Ottawa Universitet, 6 desember 2019
hentet fra Pexels.com (09.01.20)

Hva blir gjort for å stoppe det?

Mens man venter på at regjeringen skal handle og håndheve lover for å forhindre dette, tar nettsider og sosiale medier et standpunkt mot Deepfake på sine egne plattformer. Twitter, Gfycat og Pornhub forbød denne typen videoer i 2019, men har uttalt seg at det ikke har gitt den effekten de håpet. Reddit la ned sitt primære forum som var vert for Deepfake videoer som innehadde over 90 000 abonnenter. Dette fikk dem til å oppsøke andre plattformer. Foreløpig kan innholdsprodusenter bli tiltatt for trakassering i Storbritannia, men det er krevd av Kvinne – og likestillingsutvalget å gjøre Deepfake til en spesifikk forbrytelse.

Hvordan adresserer den Europeiske strategien dette?

I følge Sarah Bressan som skrev Carnegie Europe i september 2019 at den eneste bemerkelsesverdige innsatsen fra den Europeiske Union har vært EUvsDisinfo-prosjektet mot russisk propaganda, og dette har blitt mye kritisert for å være underbemannet og ikke tar utfordringen godt nok. Hun forsetter videre med å si i sin handlingsplan mot desinformasjon, erkjenner den at “desinformasjon er et kraftig og billig – og ofte økonomisk lønnsomt – verktøy”, men kommer til kort på den faktiske handlingen for å hindre potensiell skade. Det sies også at EU antydet at myndighetene investering i forsknings – og verifiseringsverktøy for å vinne våpenløpet mellom “deteksjon og generasjon” eller holde sosiale medier ansvarlige for å hindre Deepfakes å spre seg. Å takle desinformasjon på nettet: en europeisk tilnærming er navnet på kommunikasjonen fra EU som ble utgitt april 2018.

Alle anstrengelser for å bygge motstandskraft og tillit i forkant av tiden vil redde EU for mange av problemene som uten tvil vil komme med tekniske løsninger på et slikt problem.

Sarah Bressan, Carnegie Europe, 19 September 2019.

Kilder:

https://www.huffingtonpost.co.uk/entry/what-is-deep-fake-pornography-and-is-it-illegal-in-the-uk_uk_5bf4197ce4b0376c9e68f8c5?guccounter=1&guce_referrer=aHR0cHM6Ly93d3cuZ29vZ2xlLmNvbS8&guce_referrer_sig=AQAAAAN56y850udkN3Kmtvuc5YCYGpHopBy8s1UOnQaVrW2PUy29dbeD67Kp8aZVtnkF8Yxb2qvvNr7dIA6HuC3DjmyGWuD0T_k9eMn33wz0iIPphgHCH97Ytvce0_r2v2kLPfhoTipMtO430B1Zea6MlavX21FxfiAaimWNKXAbS-ba

https://thenextweb.com/facebook/2019/09/06/facebook-wants-to-combat-deepfakes-by-making-its-own/?fbclid=IwAR1KCg9iYgGowex-RDpBJnlkzTQKKTihAmGzOjPqIoBykVTbpO0vne9hKYo

https://www.vice.com/en_us/article/9keen8/deepfake-porn-is-evolving-to-give-people-total-control-over-womens-bodies

https://qz.com/1723476/deepfake-videos-feature-mostly-porn-according-to-new-study-from-deeptrace-labs/?fbclid=IwAR0CqrLO9rx–d9JBJgbd0PaNpdMvps-Zu-ZxrrD4tpyUOI5nopXsNIBwZo

https://www.bbc.com/news/technology-49961089

https://carnegieeurope.eu/strategiceurope/79877

Thalia Gellerstedt

4 Comments

  1. Spennende lesing! Sterkt å stille opp med et godt gjesteinnlegg på første post!

    • Tusen takk for hyggelig tilbakemelding, Marius! Ja, det var en liten risk, men ekstremt lærerikt, stressende og morsom samskriving i docs kan jeg anbefale flere.

  2. Fantastisk god innsikt, og godt skrevet. Du tar opp spennende temaer. Gleder meg til å lese mer 😀

    • Tusen takk, Winnie! Kan ikke ta all rosen alene, men veldig hyggelig. Håper å kunne følge opp med like spennende artikler senere 😄

Leave a Reply

Your email address will not be published. Required fields are marked *