Deepfake-ontwikkelingen in Audio en Video

Gebruikersavatar
Gluurbuur
Member
Member
Berichten: 83
Lid geworden op: 12 Mei 2014
Locatie: Limburg
Bedankt: 32 keer
Recent bedankt: 1 keer
Uitgedeelde bedankjes: 71 keer

Deepfake-ontwikkelingen in Audio en Video

Berichtdoor Gluurbuur » 28 Mei 2020, 15:21

Dag iedereen!

Bij dezen een topic om informatie, nieuws en ervaringen te delen rond deepfakes in audio en video.

Een toegankelijke wijze om hier zelf mee aan de slag te gaan zou DeepFaceLab zijn:

https://github.com/iperov/DeepFaceLab

Zijn er mensen op dit forum die ooit gespeeld hebben met Deepfake audio of video?
Hoe zit het in België met wetgeving rond dit fenomeen?
Probeer de Europese zoekmachine Qwant: https://www.qwant.com/

Gebruikersavatar
selder
Moderator
Moderator
Berichten: 5794
Lid geworden op: 29 Jun 2005
Locatie: Tienen
Bedankt: 636 keer
Recent bedankt: 3 keer
Uitgedeelde bedankjes: 82 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor selder » 28 Mei 2020, 21:02

Ik vind dat dit een te vermijden onderwerp is. Het is een techniek die uitsluitend voor slechte doeleinden gebruikt wordt, ik heb er nog geen één nuttige toepassing voor gezien.

Ik kan dit topic niet sluiten omdat dit onderwerp niet specifiek opgenomen is in de voorwaarden.
Ghost S1 • 8086K @5.2Ghz • Asus ROG Ryuo 240mm • Asus ROG STRIX Z390-I • Corsair Vengeance LPX 2x16GB 3200Mhz • Asus RTX2080Ti Turbo • Samsung 970 EVO 2TB • Asus ROG Swift PG258Q 240Hz • Logitech G Pro keyboard/mouse/headset

Gebruikersavatar
meon
Administrator
Administrator
Berichten: 16037
Lid geworden op: 18 Feb 2003
Twitter: meon
Locatie: Bree
Bedankt: 600 keer
Recent bedankt: 6 keer
Uitgedeelde bedankjes: 511 keer
Contact:

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor meon » 28 Mei 2020, 21:21

De technologie is zowel interessant als akelig.

De meest legitieme toepassing lijkt me de filmindustrie om zo dode personen (acteur of niet) terug 'leven' in te blazen. Denk aan Paul Walker in Furious 7, waarbij Walkers' broer als body double gebruikt werd met het gezicht van Paul.

Of wat dacht je om "onbereikbare" acteurs in jouw low-budget-film te krijgen?

YouTube: https://www.youtube.com/watch?v=3vHvOyZ0GbY

Of nog een leuke toepassing: moderne acteurs in klassieke films:

YouTube: https://www.youtube.com/watch?v=Bnq9N0c0ei0

Of in een vorm van parodie:

YouTube: https://www.youtube.com/watch?v=PU6rpeeZ1nQ

Uiteindelijk is het een VFX-techniek, net zoals we tegenwoordig realistische decors kunnen tonen zonder dat deze echt bestaan. Nu zou de maandlanding faken wél mogelijk zijn.

Dat deze techniek gebruikt kan worden in moreel discutabele situaties (vervang het gezicht van een pornoster door je ex-lief), een politiek discours kan wijzigen (Trump die I have a dream brengt - ik zeg maar wat) is enkel maar een gevolg van het eenvoudig beschikbaar worden van de technologie en niet zo zeer de techniek zélf.

Ordon
Pro Member
Pro Member
Berichten: 255
Lid geworden op: 27 Apr 2019
Bedankt: 32 keer
Recent bedankt: 3 keer
Uitgedeelde bedankjes: 16 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor Ordon » 28 Mei 2020, 21:55

Je hebt gebruik en misbruik, zoals met vele technieken...

Dit artikel: Deep fake lijkt me ook meer in te zetten op bewustwording in plaats van bannen.
Dat heeft mijn inziens meer toegevoegde waarde dan "sluiten en doodzwijgen".

Just my two cents.

Gebruikersavatar
selder
Moderator
Moderator
Berichten: 5794
Lid geworden op: 29 Jun 2005
Locatie: Tienen
Bedankt: 636 keer
Recent bedankt: 3 keer
Uitgedeelde bedankjes: 82 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor selder » 29 Mei 2020, 08:10

Dit is hetzelfde als torrents of nieuwsgroepen. Met de techniek zelf is helemaal niets verkeerds, maar het wordt maar voor een paar % voor "goede doeleinden" gebruikt.
Ghost S1 • 8086K @5.2Ghz • Asus ROG Ryuo 240mm • Asus ROG STRIX Z390-I • Corsair Vengeance LPX 2x16GB 3200Mhz • Asus RTX2080Ti Turbo • Samsung 970 EVO 2TB • Asus ROG Swift PG258Q 240Hz • Logitech G Pro keyboard/mouse/headset

Gebruikersavatar
Gluurbuur
Member
Member
Berichten: 83
Lid geworden op: 12 Mei 2014
Locatie: Limburg
Bedankt: 32 keer
Recent bedankt: 1 keer
Uitgedeelde bedankjes: 71 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor Gluurbuur » 29 Mei 2020, 12:48

selder schreef:Dit is hetzelfde als torrents of nieuwsgroepen. Met de techniek zelf is helemaal niets verkeerds, maar het wordt maar voor een paar % voor "goede doeleinden" gebruikt.


Ik begrijp ergens wel de huiverigheid van jou omtrent dit onderwerk. Maar om het kind met het badwater weg te gooien vind ik een te felle reactie.

Deze technologie is relatief nieuw en nog volop in ontwikkeling. Je kan veel technologieën misbruiken (PhotoShop, AI, VR, AR, ...), dat noodzaakt daarom echter niet dat discussie en ervaringen delen op dit forum vermeden of gefnuikt moet worden.
Probeer de Europese zoekmachine Qwant: https://www.qwant.com/

ITnetadmin
Elite Poster
Elite Poster
Berichten: 7835
Lid geworden op: 28 Jan 2012
Bedankt: 575 keer
Recent bedankt: 1 keer
Uitgedeelde bedankjes: 132 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor ITnetadmin » 29 Mei 2020, 18:13

Like it or not, dit gaat ontwikkeld worden, en dit gaat misbruikt worden.
Binnen 5-10 jaar zitten we terug in de 19e eeuw, waar enkel uw eigen ogen bewijsmateriaal zijn, en dan nog, want die zijn niet betrouwbaar.
Fotos en videos gaan zo gemanipuleerd kunnen worden dat niks nog zeker is of bewijswaarde heeft.

Tomby
Elite Poster
Elite Poster
Berichten: 4619
Lid geworden op: 01 Feb 2006
Bedankt: 331 keer
Recent bedankt: 11 keer
Uitgedeelde bedankjes: 737 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor Tomby » 29 Mei 2020, 18:36

ITnetadmin schreef:Binnen 5-10 jaar zitten we terug in de 19e eeuw, waar enkel uw eigen ogen bewijsmateriaal zijn, en dan nog, want die zijn niet betrouwbaar. Fotos en videos gaan zo gemanipuleerd kunnen worden dat niks nog zeker is of bewijswaarde heeft.


+1. Ik zit helemaal niet in met fake videos, maar wel met het feit dat er van elke video zal kunnen beweerd worden dat hij fake is.

Ik vraag me af of men al bezig is met camera's die zelf hun beelden kunnen digitaal signen zodat er echt bewezen kan worden dat ze authentiek zijn...
Afbeelding

ITnetadmin
Elite Poster
Elite Poster
Berichten: 7835
Lid geworden op: 28 Jan 2012
Bedankt: 575 keer
Recent bedankt: 1 keer
Uitgedeelde bedankjes: 132 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor ITnetadmin » 29 Mei 2020, 19:15

En binnen 10 jaar maken ze deep fakes die niet meer van echt te onderscheiden zijn.

Volgend slachtoffer: Hollywood.
Want waarom een acteur betalen als je hem kan faken? :-)
Of beter gezegd: waarom een acteur veel betalen, als je een custom gezicht op je personage kan plakken, en elke onbekende kan casten?
Laatst gewijzigd door ITnetadmin op 29 Mei 2020, 19:25, 1 keer totaal gewijzigd.

Tomby
Elite Poster
Elite Poster
Berichten: 4619
Lid geworden op: 01 Feb 2006
Bedankt: 331 keer
Recent bedankt: 11 keer
Uitgedeelde bedankjes: 737 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor Tomby » 29 Mei 2020, 19:24

ITnetadmin schreef:Want waarom een acteur betalen als je hem kan faken? :-)
Of beter gezegd: waarom een acteur veel betalen, als je een custom gezicht op je personage kan plakken, en elke onbekende kan casten?


Hier maak je wel een redeneer-fout. De sterkte van een goed acteur is immers niet hoe hij eruit ziet, maar wel hoe hij zaken zegt, welke gelaatsuitdrukkingen, enz... Dus door een Brad Pitt of Morgan Freeman te deepfaken op een opname van een tweederangs-acteur, ga je niet ineens een geweldige performance krijgen he.

Het is eerder omgekeerd: je kan nu de performance van een top-acteur gaan verkrijgen met een compleet ander gezicht. En dat is eigenlijk wat ze vandaag sowieso soms al doen met CGI en Motion Capturing. In die zin kan het juist een zeer interessante ontwikkeling worden voor de film-industrie, omdat het gewoon de meest realistische vorm van Motion Capture wordt.

EDIT: wordt wel scary als je het dan gaat correleren aan ownership en gebruiksrechten van foto- en film-materiaal dat bvb op sociale media geüpload wordt. Stel je voor dat je zelf als complete onbekende ineens gedeepfaket wordt in een Hollywood productie :).
Afbeelding

ITnetadmin
Elite Poster
Elite Poster
Berichten: 7835
Lid geworden op: 28 Jan 2012
Bedankt: 575 keer
Recent bedankt: 1 keer
Uitgedeelde bedankjes: 132 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor ITnetadmin » 29 Mei 2020, 19:27

Maar acteurs worden nu gecast omdat ze een karakterkop hebben.
Hoeveel goeie acteurs krijgen nu geen kans omdat ze niet fotogeniek genoeg zijn?
Binnenkort kan elke fatsoenlijke acteur met een kop die nooit gecast zou worden voor zo'n rol gaan; de kop passen ze achteraf wel aan.
En vraagt hij iets teveel, of krijgt hij capsones?
Dan staan er anderen in de rij.
Het gezicht van het personage blijft wel hetzelfde, want dat zal toch cgi zijn.

wied
Elite Poster
Elite Poster
Berichten: 4633
Lid geworden op: 28 Okt 2011
Locatie: 'tstad
Bedankt: 228 keer
Recent bedankt: 1 keer
Uitgedeelde bedankjes: 320 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor wied » 29 Mei 2020, 20:47

Lee Marvin, Steve McQueen, ...dat waren mannen met een karakterkop!
Oh ja, en Tommy Lee Jones of Javier Bardem ook natuurlijk...
PX Internet Start, OVH/FVD+Tempo Easy, Scarlet Red, Netflix, HB+Astra1&2 FTA

Gebruikersavatar
selder
Moderator
Moderator
Berichten: 5794
Lid geworden op: 29 Jun 2005
Locatie: Tienen
Bedankt: 636 keer
Recent bedankt: 3 keer
Uitgedeelde bedankjes: 82 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor selder » 30 Mei 2020, 13:11

Ehrm, ik kan niet goed inschatten waar jullie over bezig zijn, maar Hollywood gaat echt geen “deepfake” script/tool/program gebruiken om de kop van een bekende acteur op het lijf van een goedkoper acteur te zetten, vol-automatisch. Ik begrijp niet dat jullie die techniek onder “DeepFake” zetten. Hollywood gebruikt daar een arsenaal van VFX developers voor. Alles wat jullie hier zeggen slaat gewoon op VFX en CGI, niet op deepfake...

Deepfake slaat namelijk op het gebruik van AI voor het knip/plakwerk, en dit is meestal door gewoon een tool erop los te laten - maar het grote probleem hier is dat iedereen dat kan op zijn computer thuis. Je hebt dat arsenaal van developers niet nodig.

Dus ik blijf achter mijn eerdere bewering staan: van Deepfake kan nooit iets goeds komen. De techniek is mooi en geweldig, de toepassing valt zoals ik ook al zei totaal te scharen onder torrents en nieuwsgroepen. Noem een kat een kat en kom niet af met die paar linux distro’s die je via torrent binnentrekt, als je niet doorhebt dat dat totaal niet in verhouding staat met de “slechte” toepassingen van zo’n techniek dan weet je gewoon niet waar je over aan het praten bent.

Gluurbuur schreef:
Ik begrijp ergens wel de huiverigheid van jou omtrent dit onderwerk. Maar om het kind met het badwater weg te gooien vind ik een te felle reactie.

Deze technologie is relatief nieuw en nog volop in ontwikkeling. Je kan veel technologieën misbruiken (PhotoShop, AI, VR, AR, ...), dat noodzaakt daarom echter niet dat discussie en ervaringen delen op dit forum vermeden of gefnuikt moet worden.


Als het specifiek over Deepfake gaat (en kijk dan even naar de topictitel, het gaat dus niet over VFX/CGI/CAD whatever in hollywood) dan is de vergelijking tussen “de techniek voor iets goeds gebruiken” en “voor iets slechts gebruiken” totaal zoek. Voor elke “goede” toepassing die je me straks kan tonen kan je er zelf ook een veelvoud slechte toepassingen voor vinden. Dit is totaal anders bij de andere technieken die je aanhaalt, daar is de verhouding helemaal omgekeerd, we kunnen allemaal zo direct honderden goede toepassingen vinden.
Ghost S1 • 8086K @5.2Ghz • Asus ROG Ryuo 240mm • Asus ROG STRIX Z390-I • Corsair Vengeance LPX 2x16GB 3200Mhz • Asus RTX2080Ti Turbo • Samsung 970 EVO 2TB • Asus ROG Swift PG258Q 240Hz • Logitech G Pro keyboard/mouse/headset

Tomby
Elite Poster
Elite Poster
Berichten: 4619
Lid geworden op: 01 Feb 2006
Bedankt: 331 keer
Recent bedankt: 11 keer
Uitgedeelde bedankjes: 737 keer

Berichtdoor Tomby » 30 Mei 2020, 13:38

selder schreef:Ik begrijp niet dat jullie die techniek onder “DeepFake” zetten. Hollywood gebruikt daar een arsenaal van VFX developers voor. Alles wat jullie hier zeggen slaat gewoon op VFX en CGI, niet op deepfake...


Wat we juist zeggen is dat het een heel efficiënte VFX technologie is waarbij de acteur zelf gewoon niets speciaal moet doen. Gedaan met de acteur vol te plakken met bollekes of speciale pakken en een hoop algoritmes dan een andere gezicht erop te laten plakken (Gollum, Avatar...).
Of je dat nu Deepfake noemt of VFX is irrelevant. Het is een technologie waarbij je vol-automatisch iemands gezicht door iemand/iets anders kunt vervangen. Helemaal geen arsenaal van developers meer nodig.
Afbeelding

Gebruikersavatar
meon
Administrator
Administrator
Berichten: 16037
Lid geworden op: 18 Feb 2003
Twitter: meon
Locatie: Bree
Bedankt: 600 keer
Recent bedankt: 6 keer
Uitgedeelde bedankjes: 511 keer
Contact:

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor meon » 30 Mei 2020, 14:02

selder schreef:Hollywood gebruikt daar een arsenaal van VFX developers voor. Alles wat jullie hier zeggen slaat gewoon op VFX en CGI, niet op deepfake...

Deepfake slaat namelijk op het gebruik van AI voor het knip/plakwerk, en dit is meestal door gewoon een tool erop los te laten


Ehm, net wel. De AI/deepfake-training is net waar de AI voor gebruikt wordt: genoeg bronmateriaal vormen om zo een correct model te kunnen vormen van het gezicht. In traditionele VFX wordt dat gedaan door de acteur zelf te 3D-scannen, honderden foto's te maken in gespecialiseerde opstelling voor dit doel:
Afbeelding en moet de acteur daarna een contraptie op z'n hoofd dragen met camera's die een gezicht vol tracking marker-dots filmt. Dat is halvelings met Jeff Bridges gebeured in 'Tron: Legacy' als een de-aging-methode.

Wat als je die stap kan overslaan door gewoon naar oud beeldmateriaal te refereren van die acteur?
Zo werd recent met Netflix' film 'The Irishman' uren aan oud beeldmateriaal van Al Pacino, Joe Pesci en Robert De Niro gebruikt om een verhaal te vertellen dat zich in verschillende tijden afspeelt, en dit zonder tracking markers (maar wel met een IR-camera voor diepte-informatie). Dit werd enkel mogelijk dankzij dit soort technieken. De film werd om die reden ook genomineerd voor een Oscar voor 'Best Achievement in Visual Effects'.
Niet iedereen heeft de tijd om een film te splitsen in meerdere opnameperiodes over een periode van 12 jaar om de protagonist in het verhaal ouder te maken zoals Linklater gedaan heeft in de film Boyhood.

Ze noemen het misschien niet 'deepfake', maar conceptueel gaat het over hetzelfde, het enige verschil is dat computers de zaken vereenvoudigd hebben en toegankelijker maken, iets dat computers al sinds hun introductie doen op allerlei vlakken.

Gebruikersavatar
selder
Moderator
Moderator
Berichten: 5794
Lid geworden op: 29 Jun 2005
Locatie: Tienen
Bedankt: 636 keer
Recent bedankt: 3 keer
Uitgedeelde bedankjes: 82 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor selder » 30 Mei 2020, 15:15

Conceptueel kan ik het misschien nog onder dezelfde noemer scharen, maar de praktische uitwerking ervan staat mijlenver uit elkaar. Denk je nu echt dat Hollywood de tool van de topicstarter gaat gebruiken?
Ghost S1 • 8086K @5.2Ghz • Asus ROG Ryuo 240mm • Asus ROG STRIX Z390-I • Corsair Vengeance LPX 2x16GB 3200Mhz • Asus RTX2080Ti Turbo • Samsung 970 EVO 2TB • Asus ROG Swift PG258Q 240Hz • Logitech G Pro keyboard/mouse/headset

Tomby
Elite Poster
Elite Poster
Berichten: 4619
Lid geworden op: 01 Feb 2006
Bedankt: 331 keer
Recent bedankt: 11 keer
Uitgedeelde bedankjes: 737 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor Tomby » 30 Mei 2020, 15:19

Ok, maar het topic is Deepfake-ontwikkelingen, niet die tool in de OP die ik ondertussen al lang vergeten was.
Afbeelding

Gebruikersavatar
Gluurbuur
Member
Member
Berichten: 83
Lid geworden op: 12 Mei 2014
Locatie: Limburg
Bedankt: 32 keer
Recent bedankt: 1 keer
Uitgedeelde bedankjes: 71 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor Gluurbuur » 30 Mei 2020, 20:23

selder schreef:Conceptueel kan ik het misschien nog onder dezelfde noemer scharen, maar de praktische uitwerking ervan staat mijlenver uit elkaar. Denk je nu echt dat Hollywood de tool van de topicstarter gaat gebruiken?


Vergeet dan de tool die ik aanhaalde om het de openingspost meer inhoud te geven.
En al ging het topic specifiek over die tool. Ik zie het probleem niet. Nergens haal ik aan om er iets crimineels te doen.
Probeer de Europese zoekmachine Qwant: https://www.qwant.com/

Gebruikersavatar
Splitter
Elite Poster
Elite Poster
Berichten: 3944
Lid geworden op: 10 Mar 2010
Bedankt: 400 keer
Recent bedankt: 1 keer
Uitgedeelde bedankjes: 55 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor Splitter » 30 Mei 2020, 20:57

het grootste probleem met deepfake is het legale.

stel: je zou iemand vermoorden, je bent gefilmd, die video is bewijsmateriaal.
je bent dus schuldig.
straks kan er geen onderscheid meer gemaakt worden tussen echte video en deepfake video.... en ga jij de bak in, ook al was jij dus niet de moordenaar.
dan kan je wel roepen "i didn't do it".... maar dat roept iedereen, dus dat valt op dovemansoren.

ach, vergelijk het met wapens.... ze zijn er om ons te verdedigen, maar hoeveel mensen zijn er al niet nodeloos door gestorven.
ooit zal hier iets nuttigs staan

Gebruikersavatar
selder
Moderator
Moderator
Berichten: 5794
Lid geworden op: 29 Jun 2005
Locatie: Tienen
Bedankt: 636 keer
Recent bedankt: 3 keer
Uitgedeelde bedankjes: 82 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor selder » 31 Mei 2020, 15:37

Gluurbuur schreef:Ik zie het probleem niet. Nergens haal ik aan om er iets crimineels te doen.


Dan moet je een beetje verder kijken. Als je de analogie naar threads over “mijn torrents downloaden traag” niet ziet, dan begrijp ik dat je het probleem gewoon niet ziet.
Met een torrent programma of met dat protocol op zich is he-le-maal niks mis. Maar bepaal voor jezelf nu eens hoeveel % van het gebruik ervan legitiem is?

Exact hetzelfde met end-user tools waarbij je straks een vervalsing kan maken van op je smartphone - de ontwikkelingen gaan veel te hard! Laat die onderliggende techniek (weeral: analogie naar torrents) maar voorbehouden voor de voorbeelden van Meon, dat die toch nog ietswat uit het bereik van bepaalde groeperingen blijft.

Niet? Lijkt je dat niets? Ik ben ervan overtuigd dat jij niet dat laatste bedoelde als je dit topic geopend hebt, dan zou je het helemaal anders verwoord hebben, en vooral een ander voorbeeld gegeven hebben. Dus nee, dit topic, in deze specifieke context, dat vind ik geen goed onderwerp om over te discussiëren.

Zal ik straks een topic opendoen over de ontwikkelingen om een camera verborgen op te stellen - met overduidelijke ondertoon dat het gaat om een inbreuk te doen op iemand’s persoonlijke levenssfeer? Zou jij dat dan ook goed kunnen loskoppelen “want we hebben het over de techniek en niet waarvoor ze gebruikt wordt”.

Allez, is dat nu zo vergezocht ?!
Ghost S1 • 8086K @5.2Ghz • Asus ROG Ryuo 240mm • Asus ROG STRIX Z390-I • Corsair Vengeance LPX 2x16GB 3200Mhz • Asus RTX2080Ti Turbo • Samsung 970 EVO 2TB • Asus ROG Swift PG258Q 240Hz • Logitech G Pro keyboard/mouse/headset

Ordon
Pro Member
Pro Member
Berichten: 255
Lid geworden op: 27 Apr 2019
Bedankt: 32 keer
Recent bedankt: 3 keer
Uitgedeelde bedankjes: 16 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor Ordon » 31 Mei 2020, 17:06

Misschien moet je dan ook maar alle topics sluiten waar het woord "torrent" in voorkomt?
Naar analogie met deepfake... :wink:

Ik denk dat je het te ver zoekt selder.

Gebruikersavatar
selder
Moderator
Moderator
Berichten: 5794
Lid geworden op: 29 Jun 2005
Locatie: Tienen
Bedankt: 636 keer
Recent bedankt: 3 keer
Uitgedeelde bedankjes: 82 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor selder » 31 Mei 2020, 17:50

Er is toch een duidelijk verschil in tussen auteursrechtelijke diefstal aan de eene kant, en inbreuken op de persoonlijke levenssfeer of het express ondermijnen van betrouwbaarheid van beelden?
Ghost S1 • 8086K @5.2Ghz • Asus ROG Ryuo 240mm • Asus ROG STRIX Z390-I • Corsair Vengeance LPX 2x16GB 3200Mhz • Asus RTX2080Ti Turbo • Samsung 970 EVO 2TB • Asus ROG Swift PG258Q 240Hz • Logitech G Pro keyboard/mouse/headset

Ordon
Pro Member
Pro Member
Berichten: 255
Lid geworden op: 27 Apr 2019
Bedankt: 32 keer
Recent bedankt: 3 keer
Uitgedeelde bedankjes: 16 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor Ordon » 31 Mei 2020, 18:04

Daar oordeelt een rechtbank over denk ik dan.

Maar wil je als technologie platform je ogen sluiten voor technologieën?
Zo ja, hoe ver ga je hier in?

Dat het niet louter bij theoretische beschouwingen gaat blijven, lijkt me duidelijk.
Dat mensen effectief zaken gaan proberen, zoals DeepFaceLab, is mijn inziens heden:
  • onvermijdelijk
  • niet strafbaar.
Of gebruikers van dit platform ook daadwerkelijk inbreuken zullen plegen op de persoonlijke levenssfeer is nog maar de vraag.
Mocht het zo zijn, dan zal er wel een klacht volgen.

Maar of jij als moderator nu al dient te anticiperen op een mogelijke inbreuk op de persoonlijke levenssfeer door middel van het sluiten van dit topic?
Dat is mijn inziens een brug te ver.

Just my two cents.


PS Donald Trump kan met "vernieuwende" wetgeving roet in het eten gooien natuurlijk.

Gebruikersavatar
selder
Moderator
Moderator
Berichten: 5794
Lid geworden op: 29 Jun 2005
Locatie: Tienen
Bedankt: 636 keer
Recent bedankt: 3 keer
Uitgedeelde bedankjes: 82 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor selder » 31 Mei 2020, 20:34

Is voorkomen niet altijd beter dan achteraf “ha ja, hadden we maar...”. En ik ben er geen voorstander van, maar het topic is toch nog open?
Ghost S1 • 8086K @5.2Ghz • Asus ROG Ryuo 240mm • Asus ROG STRIX Z390-I • Corsair Vengeance LPX 2x16GB 3200Mhz • Asus RTX2080Ti Turbo • Samsung 970 EVO 2TB • Asus ROG Swift PG258Q 240Hz • Logitech G Pro keyboard/mouse/headset

ITnetadmin
Elite Poster
Elite Poster
Berichten: 7835
Lid geworden op: 28 Jan 2012
Bedankt: 575 keer
Recent bedankt: 1 keer
Uitgedeelde bedankjes: 132 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor ITnetadmin » 31 Mei 2020, 21:20

Splitter schreef:het grootste probleem met deepfake is het legale.

stel: je zou iemand vermoorden, je bent gefilmd, die video is bewijsmateriaal.
je bent dus schuldig.
straks kan er geen onderscheid meer gemaakt worden tussen echte video en deepfake video.... en ga jij de bak in, ook al was jij dus niet de moordenaar.
dan kan je wel roepen "i didn't do it".... maar dat roept iedereen, dus dat valt op dovemansoren.


Mij lijkt het omgekeerde een groter issue.
Ooit gaat beeldmateriaal geweerd worden als bewijs omdat je niet zeker kan zijn dat het geen fake is.
En in het begin gaat geen kat dat geloven.
Maar na een aantal ferme misstappen gaat men beelden van niet-gecertificeerde bronnen gewoon weigeren.
Uiteindelijk gaan we terug naar de 19e eeuw op dat vlak, waar fotos, audio, of video gewoon niet beschikbaar waren als bewijs.

Gebruikersavatar
meon
Administrator
Administrator
Berichten: 16037
Lid geworden op: 18 Feb 2003
Twitter: meon
Locatie: Bree
Bedankt: 600 keer
Recent bedankt: 6 keer
Uitgedeelde bedankjes: 511 keer
Contact:

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor meon » 01 Jun 2020, 00:04

Ik snap nog altijd het probleem niet. We hebben denk ik ondertussen wel vastgesteld dat wat onder de "deepfake"-noemer valt gewoon een VFX-techniek is. Uiteindelijk is de populair app "FaceApp" ook een toepassing van wat deepfake genoemd wordt, met overtuigende resultaten. Een tijdje geleden waren faceswaps nog zo populair, minder geavanceerd, maar uiteindelijk ook zoiets.
Of als we aangezichten verlaten, wat denk je dan van de app Prisma, waarbij je foto's via machine learning en AI kan 'converteren' naar de stijl van bekende schilders en kunstenaars? Het is niet dat nu ineens honderden onbekende schilderijen opduiken van lang gestorven schilders.

Zo was ik laatst nog helemaal onder de indruk dat er tegenwoordig Instagram-filters zijn die realtime de effecten uit de videoclip van A-ha's Take On Me kunnen imiteren, of de animatiestijl van de film A Scanner Darkly. Waar bij die originelen uren en dagen en weken tijd in gekropen zijn door grafische artiesten om die resultaten te krijgen kan nu een toestel dat je in je handpalm houdt dit realtime met het beeld dat het ziet.

Onderaan de streep gaat het gewoon om een technologische evolutie zoals we er al meer hebben gezien.
Doel van dit topic leek te gaan om de discussie daarrond aan te wakkeren en dat is klaarblijkelijk gelukt. Zoals bij zoveel zaken kunnen dit soort technieken met de beste bedoelingen ontwikkeld worden, kan het misbruikt worden, kan het verder evolueren, kan het gereguleerd worden, ... en zijn er bijgevolg ook verschillende meningen.
Maar om het tout court als iets slechts te zien lijkt me te kort door de bocht gaan.

ITnetadmin
Elite Poster
Elite Poster
Berichten: 7835
Lid geworden op: 28 Jan 2012
Bedankt: 575 keer
Recent bedankt: 1 keer
Uitgedeelde bedankjes: 132 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor ITnetadmin » 01 Jun 2020, 02:16

Slecht is dat in se niet.
Toch niet an sich.
Maar het ondermijnt, samen met photoshop, een gedeelte van onze maatschappij dat dingen beveiligd en voor gebeurd verklaart omdat er beelden van zijn.
En die fallout gaat wel effe duren en wat heilige huisjes omverwerpen.
Dat gezegd is het vooral onvermijdelijk dat die techniek er komt, dat die nog veel krachtiger wordt, en dat die in de handen gaat vallen van jan en alleman.
For better and worse.

Gebruikersavatar
selder
Moderator
Moderator
Berichten: 5794
Lid geworden op: 29 Jun 2005
Locatie: Tienen
Bedankt: 636 keer
Recent bedankt: 3 keer
Uitgedeelde bedankjes: 82 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor selder » 02 Jun 2020, 12:28

meon schreef:Ik snap nog altijd het probleem niet.


https://cybersecurity.att.com/blogs/security-essentials/deepfakes-are-a-problem-whats-the-solution schreef:A deepfake is essentially a video of something that didn’t happen, but made to look extremely realistic. That might sound like a basic case of ‘photoshopping’, but deepfakes go way beyond this. By training AI algorithms on vast libraries of photographs taken of famous people, the videos produced in this way are eerily real, and worryingly convincing.


Als je daar geen problemen in ziet, dan weet ik het ook niet meer. Ontwikkelingen in audio en video zijn véél algemener, de term "deepfake" slaat specifiek op wat er in de quote hierboven staat. Als je daar geen problemen mee hebt, en van mening bent "je moet de technologie niet met het badwater mee weggooien" dan gaan we nog een mooie tijd tegemoet.

Wat is het verschil om niet in te gaan tegen STL bestanden van werkende wapens openlijk te delen op het internet? Als je iets of wat consistent zou zijn dan zou je hier dan ook vóór moeten zijn, want naar analogie wat je zegt "het is niet de techniek, maar het gebruik van de techniek dat slecht is".
Ghost S1 • 8086K @5.2Ghz • Asus ROG Ryuo 240mm • Asus ROG STRIX Z390-I • Corsair Vengeance LPX 2x16GB 3200Mhz • Asus RTX2080Ti Turbo • Samsung 970 EVO 2TB • Asus ROG Swift PG258Q 240Hz • Logitech G Pro keyboard/mouse/headset

tien
Premium Member
Premium Member
Berichten: 717
Lid geworden op: 17 Apr 2019
Locatie: Attenhoven (Landen)
Bedankt: 27 keer
Uitgedeelde bedankjes: 49 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor tien » 02 Jun 2020, 13:16

Het klassieke nobel verhaal? Denk dat de bron wel bij vfx zit.

Grote probleem is dat het als echt verkocht wordt en geloofwaardig (tot op zekere hoogte). We hebben nu al mensen die thuisacteurs aanvallen en 'reality' tv blijft langer hangen dan het nieuws. De technologie verzwijgen gaat echter niks uithalen, hopelijk helpt het beetje als mensen beseffen dat het helemaal niet zo moeilijk te doen is. Vergelijk met fotoshop effect, de grote hoop weet nu tenminste toch al dat niet alles op foto echt is. Zou veel gevaarlijker zijn als deze technieken ergens verborgen gehouden werden.

Ander groot probleem is misschien wel te vergelijken met malware. Was ooit experimenteel, daarna een 'onschuldige' grap of studentenstreken. Virussen zijn pak professioneler geworden nu er veel mee te winnen valt.

Gebruikersavatar
bitbite
Premium Member
Premium Member
Berichten: 528
Lid geworden op: 18 Dec 2012
Bedankt: 42 keer
Recent bedankt: 4 keer
Uitgedeelde bedankjes: 36 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor bitbite » 02 Jun 2020, 14:05

selder schreef:Wat is het verschil om niet in te gaan tegen STL bestanden van werkende wapens openlijk te delen op het internet?

Sorry, slecht voorbeeld. Meer dan een paar schoten krijg je er echt niet uit, en technisch zal nog lang zo blijven.

MrBlueSky
Pro Member
Pro Member
Berichten: 411
Lid geworden op: 22 Mar 2012
Bedankt: 33 keer
Recent bedankt: 2 keer
Uitgedeelde bedankjes: 130 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor MrBlueSky » 02 Jun 2020, 14:27

bitbite schreef:Sorry, slecht voorbeeld. Meer dan een paar schoten krijg je er echt niet uit


1 is toch al genoeg :???:

* en te veel

Gebruikersavatar
meon
Administrator
Administrator
Berichten: 16037
Lid geworden op: 18 Feb 2003
Twitter: meon
Locatie: Bree
Bedankt: 600 keer
Recent bedankt: 6 keer
Uitgedeelde bedankjes: 511 keer
Contact:

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor meon » 02 Jun 2020, 15:08

selder schreef:Wat is het verschil om niet in te gaan tegen STL bestanden van werkende wapens openlijk te delen op het internet? Als je iets of wat consistent zou zijn dan zou je hier dan ook vóór moeten zijn, want naar analogie wat je zegt "het is niet de techniek, maar het gebruik van de techniek dat slecht is".

De analogie zou zijn:
3D-printen --> Dat je via STL-bestanden daar wapens mee kan maken is een toepassing daarvan en die wil je wel/niet publiek beschikbaar hebben.
<>
Deepfake --> Een visueel scenario maken waarbij schade wordt berokkend aan personen wegens de context, of wegens gebrek aan portretrecht.

Gebruikersavatar
bitbite
Premium Member
Premium Member
Berichten: 528
Lid geworden op: 18 Dec 2012
Bedankt: 42 keer
Recent bedankt: 4 keer
Uitgedeelde bedankjes: 36 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor bitbite » 02 Jun 2020, 20:07

MrBlueSky schreef:
bitbite schreef:Sorry, slecht voorbeeld. Meer dan een paar schoten krijg je er echt niet uit


1 is toch al genoeg :???:

* en te veel

Niemand gaat "iets" uitproberen met zo'n prul, dan is de gemiddelde doe-het-zelfzaak een compleet arsenaal.
En patronen zijn uiteraard ook niet printbaar...

ITnetadmin
Elite Poster
Elite Poster
Berichten: 7835
Lid geworden op: 28 Jan 2012
Bedankt: 575 keer
Recent bedankt: 1 keer
Uitgedeelde bedankjes: 132 keer

Re: Deepfake-ontwikkelingen in Audio en Video

Berichtdoor ITnetadmin » 04 Jun 2020, 01:16

*Nog* niet...


Terug naar “Allerlei”

Wie is er online

Gebruikers op dit forum: Geen geregistreerde gebruikers en 4 gasten