Nya tekniker och hur syntetisk och fake manipulerad media komer påverkar samhället. Deepfake tekniker använder AI så att videor av verkliga människor ändras så att de verkar göra och säga saker som inte är verkliga och visar en förvrängd version av verkligheten.
Olika typer av deep fakes
- Face Swap
- Puppet master
- Lip sync
- Voice cloning
Termen myntades 2017 samtidigt publicerades “Generative Adversarial Networks” och många har senare sett hur man fejkat Barack Obama och Donald Trump i olika situationer.
Det första kända fallet av framgångsrika finansiella scamming via ljud deepfakes var i mars 2019 då cyberbovar kunde skapa en nästan perfekt personifiering av en VD röst-och sedan använde ljudet för att lura företaget att överföra $243 000 till sitt bankkonto.
Metoder att motverka ”deep fakes”
- Institutionella interventioner
- Öka finansiering till program för att utveckla nya metoder
- Mätning av teknikerna och hoten
- Nya normer hur vi pratar om tekniker som utvecklas
- Den handlar inte bara om teknik och verktyg utan också om utbildning inom AI och ge människor verktyg
Förhör i amerikanska kongressen om deep fakes.
Deepfakedetectionchallenge
Facebook, Microsoft och ett antal universitet har gått samman för att sponsra en tävling https://deepfakedetectionchallenge.ai/ som främjar forskning och utveckling för att bekämpa deepfakes, eller videor som ändras genom artificiell intelligens (AI) för att vilseleda tittarna.
Google’s ”Spoofing and Countermeasures Challenge”.
Deep Fakes på Black Hat 2019
Under BlackHat 2019 mässan var ett av föredragen
Detecting Deep Fakes with Mice. Maskin vs Biologi och att försöka lära möss att avslöja deep fakes.
Ladda ner PDF