Deepfake-ontwikkelingen in Audio en Video

Onderwerpen die nergens anders thuis horen en toch eerder technisch van aard zijn? Post ze hier!
Plaats reactie
Gebruikersavatar
Gluurbuur
Plus Member
Plus Member
Berichten: 130
Lid geworden op: 12 mei 2014, 14:06
Locatie: Limburg
Uitgedeelde bedankjes: 85 keer
Bedankt: 38 keer

Dag iedereen!

Bij dezen een topic om informatie, nieuws en ervaringen te delen rond deepfakes in audio en video.

Een toegankelijke wijze om hier zelf mee aan de slag te gaan zou DeepFaceLab zijn:

https://github.com/iperov/DeepFaceLab

Zijn er mensen op dit forum die ooit gespeeld hebben met Deepfake audio of video?
Hoe zit het in België met wetgeving rond dit fenomeen?
Probeer de Europese zoekmachine Qwant: https://www.qwant.com/
Gebruikersavatar
selder
Moderator
Moderator
Berichten: 6438
Lid geworden op: 29 jun 2005, 20:25
Locatie: Tienen
Uitgedeelde bedankjes: 106 keer
Bedankt: 736 keer

Ik vind dat dit een te vermijden onderwerp is. Het is een techniek die uitsluitend voor slechte doeleinden gebruikt wordt, ik heb er nog geen één nuttige toepassing voor gezien.

Ik kan dit topic niet sluiten omdat dit onderwerp niet specifiek opgenomen is in de voorwaarden.
Fractal Design North • 13900KS • Asus ROG Ryuo III 240mm • Asus Z790-E • Z5 7800 c34 64GB RGB • nVidia RTX4090FE • Samsung 990 PRO 2TB • Asus ROG Swift PG42UQ 42” OLED 138Hz
Gebruikersavatar
meon
Administrator
Administrator
Berichten: 16729
Lid geworden op: 18 feb 2003, 22:02
Twitter: meon
Locatie: Bree
Uitgedeelde bedankjes: 574 keer
Bedankt: 770 keer

De technologie is zowel interessant als akelig.

De meest legitieme toepassing lijkt me de filmindustrie om zo dode personen (acteur of niet) terug 'leven' in te blazen. Denk aan Paul Walker in Furious 7, waarbij Walkers' broer als body double gebruikt werd met het gezicht van Paul.

Of wat dacht je om "onbereikbare" acteurs in jouw low-budget-film te krijgen?
[youtube]3vHvOyZ0GbY[/youtube]

Of nog een leuke toepassing: moderne acteurs in klassieke films:
[youtube]Bnq9N0c0ei0[/youtube]

Of in een vorm van parodie:
[youtube]PU6rpeeZ1nQ[/youtube]

Uiteindelijk is het een VFX-techniek, net zoals we tegenwoordig realistische decors kunnen tonen zonder dat deze echt bestaan. Nu zou de maandlanding faken wél mogelijk zijn.

Dat deze techniek gebruikt kan worden in moreel discutabele situaties (vervang het gezicht van een pornoster door je ex-lief), een politiek discours kan wijzigen (Trump die I have a dream brengt - ik zeg maar wat) is enkel maar een gevolg van het eenvoudig beschikbaar worden van de technologie en niet zo zeer de techniek zélf.
Ordon
Elite Poster
Elite Poster
Berichten: 2625
Lid geworden op: 27 apr 2019, 06:52
Uitgedeelde bedankjes: 50 keer
Bedankt: 94 keer

Je hebt gebruik en misbruik, zoals met vele technieken...

Dit artikel: Deep fake lijkt me ook meer in te zetten op bewustwording in plaats van bannen.
Dat heeft mijn inziens meer toegevoegde waarde dan "sluiten en doodzwijgen".

Just my two cents.
Gebruikersavatar
selder
Moderator
Moderator
Berichten: 6438
Lid geworden op: 29 jun 2005, 20:25
Locatie: Tienen
Uitgedeelde bedankjes: 106 keer
Bedankt: 736 keer

Dit is hetzelfde als torrents of nieuwsgroepen. Met de techniek zelf is helemaal niets verkeerds, maar het wordt maar voor een paar % voor "goede doeleinden" gebruikt.
Fractal Design North • 13900KS • Asus ROG Ryuo III 240mm • Asus Z790-E • Z5 7800 c34 64GB RGB • nVidia RTX4090FE • Samsung 990 PRO 2TB • Asus ROG Swift PG42UQ 42” OLED 138Hz
Gebruikersavatar
Gluurbuur
Plus Member
Plus Member
Berichten: 130
Lid geworden op: 12 mei 2014, 14:06
Locatie: Limburg
Uitgedeelde bedankjes: 85 keer
Bedankt: 38 keer

selder schreef:Dit is hetzelfde als torrents of nieuwsgroepen. Met de techniek zelf is helemaal niets verkeerds, maar het wordt maar voor een paar % voor "goede doeleinden" gebruikt.
Ik begrijp ergens wel de huiverigheid van jou omtrent dit onderwerk. Maar om het kind met het badwater weg te gooien vind ik een te felle reactie.

Deze technologie is relatief nieuw en nog volop in ontwikkeling. Je kan veel technologieën misbruiken (PhotoShop, AI, VR, AR, ...), dat noodzaakt daarom echter niet dat discussie en ervaringen delen op dit forum vermeden of gefnuikt moet worden.
Probeer de Europese zoekmachine Qwant: https://www.qwant.com/
ITnetadmin
userbase crew
userbase crew
Berichten: 8974
Lid geworden op: 28 jan 2012, 18:22
Uitgedeelde bedankjes: 199 keer
Bedankt: 690 keer
Recent bedankt: 2 keer

Like it or not, dit gaat ontwikkeld worden, en dit gaat misbruikt worden.
Binnen 5-10 jaar zitten we terug in de 19e eeuw, waar enkel uw eigen ogen bewijsmateriaal zijn, en dan nog, want die zijn niet betrouwbaar.
Fotos en videos gaan zo gemanipuleerd kunnen worden dat niks nog zeker is of bewijswaarde heeft.
Tomby
Elite Poster
Elite Poster
Berichten: 6350
Lid geworden op: 01 feb 2006, 12:36
Uitgedeelde bedankjes: 1287 keer
Bedankt: 486 keer
Recent bedankt: 2 keer

ITnetadmin schreef:Binnen 5-10 jaar zitten we terug in de 19e eeuw, waar enkel uw eigen ogen bewijsmateriaal zijn, en dan nog, want die zijn niet betrouwbaar. Fotos en videos gaan zo gemanipuleerd kunnen worden dat niks nog zeker is of bewijswaarde heeft.
+1. Ik zit helemaal niet in met fake videos, maar wel met het feit dat er van elke video zal kunnen beweerd worden dat hij fake is.

Ik vraag me af of men al bezig is met camera's die zelf hun beelden kunnen digitaal signen zodat er echt bewezen kan worden dat ze authentiek zijn...
ITnetadmin
userbase crew
userbase crew
Berichten: 8974
Lid geworden op: 28 jan 2012, 18:22
Uitgedeelde bedankjes: 199 keer
Bedankt: 690 keer
Recent bedankt: 2 keer

En binnen 10 jaar maken ze deep fakes die niet meer van echt te onderscheiden zijn.

Volgend slachtoffer: Hollywood.
Want waarom een acteur betalen als je hem kan faken? :-)
Of beter gezegd: waarom een acteur veel betalen, als je een custom gezicht op je personage kan plakken, en elke onbekende kan casten?
Laatst gewijzigd door ITnetadmin 29 mei 2020, 19:25, in totaal 1 gewijzigd.
Tomby
Elite Poster
Elite Poster
Berichten: 6350
Lid geworden op: 01 feb 2006, 12:36
Uitgedeelde bedankjes: 1287 keer
Bedankt: 486 keer
Recent bedankt: 2 keer

ITnetadmin schreef:Want waarom een acteur betalen als je hem kan faken? :-)
Of beter gezegd: waarom een acteur veel betalen, als je een custom gezicht op je personage kan plakken, en elke onbekende kan casten?
Hier maak je wel een redeneer-fout. De sterkte van een goed acteur is immers niet hoe hij eruit ziet, maar wel hoe hij zaken zegt, welke gelaatsuitdrukkingen, enz... Dus door een Brad Pitt of Morgan Freeman te deepfaken op een opname van een tweederangs-acteur, ga je niet ineens een geweldige performance krijgen he.

Het is eerder omgekeerd: je kan nu de performance van een top-acteur gaan verkrijgen met een compleet ander gezicht. En dat is eigenlijk wat ze vandaag sowieso soms al doen met CGI en Motion Capturing. In die zin kan het juist een zeer interessante ontwikkeling worden voor de film-industrie, omdat het gewoon de meest realistische vorm van Motion Capture wordt.

EDIT: wordt wel scary als je het dan gaat correleren aan ownership en gebruiksrechten van foto- en film-materiaal dat bvb op sociale media geüpload wordt. Stel je voor dat je zelf als complete onbekende ineens gedeepfaket wordt in een Hollywood productie :).
ITnetadmin
userbase crew
userbase crew
Berichten: 8974
Lid geworden op: 28 jan 2012, 18:22
Uitgedeelde bedankjes: 199 keer
Bedankt: 690 keer
Recent bedankt: 2 keer

Maar acteurs worden nu gecast omdat ze een karakterkop hebben.
Hoeveel goeie acteurs krijgen nu geen kans omdat ze niet fotogeniek genoeg zijn?
Binnenkort kan elke fatsoenlijke acteur met een kop die nooit gecast zou worden voor zo'n rol gaan; de kop passen ze achteraf wel aan.
En vraagt hij iets teveel, of krijgt hij capsones?
Dan staan er anderen in de rij.
Het gezicht van het personage blijft wel hetzelfde, want dat zal toch cgi zijn.
wied
Elite Poster
Elite Poster
Berichten: 6595
Lid geworden op: 28 okt 2011, 15:07
Locatie: 'tstad
Uitgedeelde bedankjes: 343 keer
Bedankt: 273 keer

Lee Marvin, Steve McQueen, ...dat waren mannen met een karakterkop!
Oh ja, en Tommy Lee Jones of Javier Bardem ook natuurlijk...
Scarlet Loco, FVD/OVH/Tempo Easy, Scarlet Cherry, Netflix, Astra1&2 FTA
Gebruikersavatar
selder
Moderator
Moderator
Berichten: 6438
Lid geworden op: 29 jun 2005, 20:25
Locatie: Tienen
Uitgedeelde bedankjes: 106 keer
Bedankt: 736 keer

Ehrm, ik kan niet goed inschatten waar jullie over bezig zijn, maar Hollywood gaat echt geen “deepfake” script/tool/program gebruiken om de kop van een bekende acteur op het lijf van een goedkoper acteur te zetten, vol-automatisch. Ik begrijp niet dat jullie die techniek onder “DeepFake” zetten. Hollywood gebruikt daar een arsenaal van VFX developers voor. Alles wat jullie hier zeggen slaat gewoon op VFX en CGI, niet op deepfake...

Deepfake slaat namelijk op het gebruik van AI voor het knip/plakwerk, en dit is meestal door gewoon een tool erop los te laten - maar het grote probleem hier is dat iedereen dat kan op zijn computer thuis. Je hebt dat arsenaal van developers niet nodig.

Dus ik blijf achter mijn eerdere bewering staan: van Deepfake kan nooit iets goeds komen. De techniek is mooi en geweldig, de toepassing valt zoals ik ook al zei totaal te scharen onder torrents en nieuwsgroepen. Noem een kat een kat en kom niet af met die paar linux distro’s die je via torrent binnentrekt, als je niet doorhebt dat dat totaal niet in verhouding staat met de “slechte” toepassingen van zo’n techniek dan weet je gewoon niet waar je over aan het praten bent.
Gluurbuur schreef:
Ik begrijp ergens wel de huiverigheid van jou omtrent dit onderwerk. Maar om het kind met het badwater weg te gooien vind ik een te felle reactie.

Deze technologie is relatief nieuw en nog volop in ontwikkeling. Je kan veel technologieën misbruiken (PhotoShop, AI, VR, AR, ...), dat noodzaakt daarom echter niet dat discussie en ervaringen delen op dit forum vermeden of gefnuikt moet worden.
Als het specifiek over Deepfake gaat (en kijk dan even naar de topictitel, het gaat dus niet over VFX/CGI/CAD whatever in hollywood) dan is de vergelijking tussen “de techniek voor iets goeds gebruiken” en “voor iets slechts gebruiken” totaal zoek. Voor elke “goede” toepassing die je me straks kan tonen kan je er zelf ook een veelvoud slechte toepassingen voor vinden. Dit is totaal anders bij de andere technieken die je aanhaalt, daar is de verhouding helemaal omgekeerd, we kunnen allemaal zo direct honderden goede toepassingen vinden.
Fractal Design North • 13900KS • Asus ROG Ryuo III 240mm • Asus Z790-E • Z5 7800 c34 64GB RGB • nVidia RTX4090FE • Samsung 990 PRO 2TB • Asus ROG Swift PG42UQ 42” OLED 138Hz
Tomby
Elite Poster
Elite Poster
Berichten: 6350
Lid geworden op: 01 feb 2006, 12:36
Uitgedeelde bedankjes: 1287 keer
Bedankt: 486 keer
Recent bedankt: 2 keer

selder schreef:Ik begrijp niet dat jullie die techniek onder “DeepFake” zetten. Hollywood gebruikt daar een arsenaal van VFX developers voor. Alles wat jullie hier zeggen slaat gewoon op VFX en CGI, niet op deepfake...
Wat we juist zeggen is dat het een heel efficiënte VFX technologie is waarbij de acteur zelf gewoon niets speciaal moet doen. Gedaan met de acteur vol te plakken met bollekes of speciale pakken en een hoop algoritmes dan een andere gezicht erop te laten plakken (Gollum, Avatar...).
Of je dat nu Deepfake noemt of VFX is irrelevant. Het is een technologie waarbij je vol-automatisch iemands gezicht door iemand/iets anders kunt vervangen. Helemaal geen arsenaal van developers meer nodig.
Gebruikersavatar
meon
Administrator
Administrator
Berichten: 16729
Lid geworden op: 18 feb 2003, 22:02
Twitter: meon
Locatie: Bree
Uitgedeelde bedankjes: 574 keer
Bedankt: 770 keer

selder schreef:Hollywood gebruikt daar een arsenaal van VFX developers voor. Alles wat jullie hier zeggen slaat gewoon op VFX en CGI, niet op deepfake...

Deepfake slaat namelijk op het gebruik van AI voor het knip/plakwerk, en dit is meestal door gewoon een tool erop los te laten
Ehm, net wel. De AI/deepfake-training is net waar de AI voor gebruikt wordt: genoeg bronmateriaal vormen om zo een correct model te kunnen vormen van het gezicht. In traditionele VFX wordt dat gedaan door de acteur zelf te 3D-scannen, honderden foto's te maken in gespecialiseerde opstelling voor dit doel:
Afbeelding en moet de acteur daarna een contraptie op z'n hoofd dragen met camera's die een gezicht vol tracking marker-dots filmt. Dat is halvelings met Jeff Bridges gebeured in 'Tron: Legacy' als een de-aging-methode.

Wat als je die stap kan overslaan door gewoon naar oud beeldmateriaal te refereren van die acteur?
Zo werd recent met Netflix' film 'The Irishman' uren aan oud beeldmateriaal van Al Pacino, Joe Pesci en Robert De Niro gebruikt om een verhaal te vertellen dat zich in verschillende tijden afspeelt, en dit zonder tracking markers (maar wel met een IR-camera voor diepte-informatie). Dit werd enkel mogelijk dankzij dit soort technieken. De film werd om die reden ook genomineerd voor een Oscar voor 'Best Achievement in Visual Effects'.
Niet iedereen heeft de tijd om een film te splitsen in meerdere opnameperiodes over een periode van 12 jaar om de protagonist in het verhaal ouder te maken zoals Linklater gedaan heeft in de film Boyhood.

Ze noemen het misschien niet 'deepfake', maar conceptueel gaat het over hetzelfde, het enige verschil is dat computers de zaken vereenvoudigd hebben en toegankelijker maken, iets dat computers al sinds hun introductie doen op allerlei vlakken.
Gebruikersavatar
selder
Moderator
Moderator
Berichten: 6438
Lid geworden op: 29 jun 2005, 20:25
Locatie: Tienen
Uitgedeelde bedankjes: 106 keer
Bedankt: 736 keer

Conceptueel kan ik het misschien nog onder dezelfde noemer scharen, maar de praktische uitwerking ervan staat mijlenver uit elkaar. Denk je nu echt dat Hollywood de tool van de topicstarter gaat gebruiken?
Fractal Design North • 13900KS • Asus ROG Ryuo III 240mm • Asus Z790-E • Z5 7800 c34 64GB RGB • nVidia RTX4090FE • Samsung 990 PRO 2TB • Asus ROG Swift PG42UQ 42” OLED 138Hz
Tomby
Elite Poster
Elite Poster
Berichten: 6350
Lid geworden op: 01 feb 2006, 12:36
Uitgedeelde bedankjes: 1287 keer
Bedankt: 486 keer
Recent bedankt: 2 keer

Ok, maar het topic is Deepfake-ontwikkelingen, niet die tool in de OP die ik ondertussen al lang vergeten was.
Gebruikersavatar
Gluurbuur
Plus Member
Plus Member
Berichten: 130
Lid geworden op: 12 mei 2014, 14:06
Locatie: Limburg
Uitgedeelde bedankjes: 85 keer
Bedankt: 38 keer

selder schreef:Conceptueel kan ik het misschien nog onder dezelfde noemer scharen, maar de praktische uitwerking ervan staat mijlenver uit elkaar. Denk je nu echt dat Hollywood de tool van de topicstarter gaat gebruiken?
Vergeet dan de tool die ik aanhaalde om het de openingspost meer inhoud te geven.
En al ging het topic specifiek over die tool. Ik zie het probleem niet. Nergens haal ik aan om er iets crimineels te doen.
Probeer de Europese zoekmachine Qwant: https://www.qwant.com/
Gebruikersavatar
Splitter
Elite Poster
Elite Poster
Berichten: 5250
Lid geworden op: 10 maa 2010, 12:30
Uitgedeelde bedankjes: 64 keer
Bedankt: 526 keer
Recent bedankt: 12 keer

het grootste probleem met deepfake is het legale.

stel: je zou iemand vermoorden, je bent gefilmd, die video is bewijsmateriaal.
je bent dus schuldig.
straks kan er geen onderscheid meer gemaakt worden tussen echte video en deepfake video.... en ga jij de bak in, ook al was jij dus niet de moordenaar.
dan kan je wel roepen "i didn't do it".... maar dat roept iedereen, dus dat valt op dovemansoren.

ach, vergelijk het met wapens.... ze zijn er om ons te verdedigen, maar hoeveel mensen zijn er al niet nodeloos door gestorven.
Gebruikersavatar
selder
Moderator
Moderator
Berichten: 6438
Lid geworden op: 29 jun 2005, 20:25
Locatie: Tienen
Uitgedeelde bedankjes: 106 keer
Bedankt: 736 keer

Gluurbuur schreef:Ik zie het probleem niet. Nergens haal ik aan om er iets crimineels te doen.
Dan moet je een beetje verder kijken. Als je de analogie naar threads over “mijn torrents downloaden traag” niet ziet, dan begrijp ik dat je het probleem gewoon niet ziet.
Met een torrent programma of met dat protocol op zich is he-le-maal niks mis. Maar bepaal voor jezelf nu eens hoeveel % van het gebruik ervan legitiem is?

Exact hetzelfde met end-user tools waarbij je straks een vervalsing kan maken van op je smartphone - de ontwikkelingen gaan veel te hard! Laat die onderliggende techniek (weeral: analogie naar torrents) maar voorbehouden voor de voorbeelden van Meon, dat die toch nog ietswat uit het bereik van bepaalde groeperingen blijft.

Niet? Lijkt je dat niets? Ik ben ervan overtuigd dat jij niet dat laatste bedoelde als je dit topic geopend hebt, dan zou je het helemaal anders verwoord hebben, en vooral een ander voorbeeld gegeven hebben. Dus nee, dit topic, in deze specifieke context, dat vind ik geen goed onderwerp om over te discussiëren.

Zal ik straks een topic opendoen over de ontwikkelingen om een camera verborgen op te stellen - met overduidelijke ondertoon dat het gaat om een inbreuk te doen op iemand’s persoonlijke levenssfeer? Zou jij dat dan ook goed kunnen loskoppelen “want we hebben het over de techniek en niet waarvoor ze gebruikt wordt”.

Allez, is dat nu zo vergezocht ?!
Fractal Design North • 13900KS • Asus ROG Ryuo III 240mm • Asus Z790-E • Z5 7800 c34 64GB RGB • nVidia RTX4090FE • Samsung 990 PRO 2TB • Asus ROG Swift PG42UQ 42” OLED 138Hz
Ordon
Elite Poster
Elite Poster
Berichten: 2625
Lid geworden op: 27 apr 2019, 06:52
Uitgedeelde bedankjes: 50 keer
Bedankt: 94 keer

Misschien moet je dan ook maar alle topics sluiten waar het woord "torrent" in voorkomt?
Naar analogie met deepfake... :wink:

Ik denk dat je het te ver zoekt selder.
Gebruikersavatar
selder
Moderator
Moderator
Berichten: 6438
Lid geworden op: 29 jun 2005, 20:25
Locatie: Tienen
Uitgedeelde bedankjes: 106 keer
Bedankt: 736 keer

Er is toch een duidelijk verschil in tussen auteursrechtelijke diefstal aan de eene kant, en inbreuken op de persoonlijke levenssfeer of het express ondermijnen van betrouwbaarheid van beelden?
Fractal Design North • 13900KS • Asus ROG Ryuo III 240mm • Asus Z790-E • Z5 7800 c34 64GB RGB • nVidia RTX4090FE • Samsung 990 PRO 2TB • Asus ROG Swift PG42UQ 42” OLED 138Hz
Ordon
Elite Poster
Elite Poster
Berichten: 2625
Lid geworden op: 27 apr 2019, 06:52
Uitgedeelde bedankjes: 50 keer
Bedankt: 94 keer

Daar oordeelt een rechtbank over denk ik dan.

Maar wil je als technologie platform je ogen sluiten voor technologieën?
Zo ja, hoe ver ga je hier in?

Dat het niet louter bij theoretische beschouwingen gaat blijven, lijkt me duidelijk.
Dat mensen effectief zaken gaan proberen, zoals DeepFaceLab, is mijn inziens heden:
  • onvermijdelijk
  • niet strafbaar.
Of gebruikers van dit platform ook daadwerkelijk inbreuken zullen plegen op de persoonlijke levenssfeer is nog maar de vraag.
Mocht het zo zijn, dan zal er wel een klacht volgen.

Maar of jij als moderator nu al dient te anticiperen op een mogelijke inbreuk op de persoonlijke levenssfeer door middel van het sluiten van dit topic?
Dat is mijn inziens een brug te ver.

Just my two cents.


PS Donald Trump kan met "vernieuwende" wetgeving roet in het eten gooien natuurlijk.
Gebruikersavatar
selder
Moderator
Moderator
Berichten: 6438
Lid geworden op: 29 jun 2005, 20:25
Locatie: Tienen
Uitgedeelde bedankjes: 106 keer
Bedankt: 736 keer

Is voorkomen niet altijd beter dan achteraf “ha ja, hadden we maar...”. En ik ben er geen voorstander van, maar het topic is toch nog open?
Fractal Design North • 13900KS • Asus ROG Ryuo III 240mm • Asus Z790-E • Z5 7800 c34 64GB RGB • nVidia RTX4090FE • Samsung 990 PRO 2TB • Asus ROG Swift PG42UQ 42” OLED 138Hz
ITnetadmin
userbase crew
userbase crew
Berichten: 8974
Lid geworden op: 28 jan 2012, 18:22
Uitgedeelde bedankjes: 199 keer
Bedankt: 690 keer
Recent bedankt: 2 keer

Splitter schreef:het grootste probleem met deepfake is het legale.

stel: je zou iemand vermoorden, je bent gefilmd, die video is bewijsmateriaal.
je bent dus schuldig.
straks kan er geen onderscheid meer gemaakt worden tussen echte video en deepfake video.... en ga jij de bak in, ook al was jij dus niet de moordenaar.
dan kan je wel roepen "i didn't do it".... maar dat roept iedereen, dus dat valt op dovemansoren.
Mij lijkt het omgekeerde een groter issue.
Ooit gaat beeldmateriaal geweerd worden als bewijs omdat je niet zeker kan zijn dat het geen fake is.
En in het begin gaat geen kat dat geloven.
Maar na een aantal ferme misstappen gaat men beelden van niet-gecertificeerde bronnen gewoon weigeren.
Uiteindelijk gaan we terug naar de 19e eeuw op dat vlak, waar fotos, audio, of video gewoon niet beschikbaar waren als bewijs.
Gebruikersavatar
meon
Administrator
Administrator
Berichten: 16729
Lid geworden op: 18 feb 2003, 22:02
Twitter: meon
Locatie: Bree
Uitgedeelde bedankjes: 574 keer
Bedankt: 770 keer

Ik snap nog altijd het probleem niet. We hebben denk ik ondertussen wel vastgesteld dat wat onder de "deepfake"-noemer valt gewoon een VFX-techniek is. Uiteindelijk is de populair app "FaceApp" ook een toepassing van wat deepfake genoemd wordt, met overtuigende resultaten. Een tijdje geleden waren faceswaps nog zo populair, minder geavanceerd, maar uiteindelijk ook zoiets.
Of als we aangezichten verlaten, wat denk je dan van de app Prisma, waarbij je foto's via machine learning en AI kan 'converteren' naar de stijl van bekende schilders en kunstenaars? Het is niet dat nu ineens honderden onbekende schilderijen opduiken van lang gestorven schilders.

Zo was ik laatst nog helemaal onder de indruk dat er tegenwoordig Instagram-filters zijn die realtime de effecten uit de videoclip van A-ha's Take On Me kunnen imiteren, of de animatiestijl van de film A Scanner Darkly. Waar bij die originelen uren en dagen en weken tijd in gekropen zijn door grafische artiesten om die resultaten te krijgen kan nu een toestel dat je in je handpalm houdt dit realtime met het beeld dat het ziet.

Onderaan de streep gaat het gewoon om een technologische evolutie zoals we er al meer hebben gezien.
Doel van dit topic leek te gaan om de discussie daarrond aan te wakkeren en dat is klaarblijkelijk gelukt. Zoals bij zoveel zaken kunnen dit soort technieken met de beste bedoelingen ontwikkeld worden, kan het misbruikt worden, kan het verder evolueren, kan het gereguleerd worden, ... en zijn er bijgevolg ook verschillende meningen.
Maar om het tout court als iets slechts te zien lijkt me te kort door de bocht gaan.
ITnetadmin
userbase crew
userbase crew
Berichten: 8974
Lid geworden op: 28 jan 2012, 18:22
Uitgedeelde bedankjes: 199 keer
Bedankt: 690 keer
Recent bedankt: 2 keer

Slecht is dat in se niet.
Toch niet an sich.
Maar het ondermijnt, samen met photoshop, een gedeelte van onze maatschappij dat dingen beveiligd en voor gebeurd verklaart omdat er beelden van zijn.
En die fallout gaat wel effe duren en wat heilige huisjes omverwerpen.
Dat gezegd is het vooral onvermijdelijk dat die techniek er komt, dat die nog veel krachtiger wordt, en dat die in de handen gaat vallen van jan en alleman.
For better and worse.
Gebruikersavatar
selder
Moderator
Moderator
Berichten: 6438
Lid geworden op: 29 jun 2005, 20:25
Locatie: Tienen
Uitgedeelde bedankjes: 106 keer
Bedankt: 736 keer

meon schreef:Ik snap nog altijd het probleem niet.
https://cybersecurity.att.com/blogs/security-essentials/deepfakes-are-a-problem-whats-the-solution schreef:A deepfake is essentially a video of something that didn’t happen, but made to look extremely realistic. That might sound like a basic case of ‘photoshopping’, but deepfakes go way beyond this. By training AI algorithms on vast libraries of photographs taken of famous people, the videos produced in this way are eerily real, and worryingly convincing.
Als je daar geen problemen in ziet, dan weet ik het ook niet meer. Ontwikkelingen in audio en video zijn véél algemener, de term "deepfake" slaat specifiek op wat er in de quote hierboven staat. Als je daar geen problemen mee hebt, en van mening bent "je moet de technologie niet met het badwater mee weggooien" dan gaan we nog een mooie tijd tegemoet.

Wat is het verschil om niet in te gaan tegen STL bestanden van werkende wapens openlijk te delen op het internet? Als je iets of wat consistent zou zijn dan zou je hier dan ook vóór moeten zijn, want naar analogie wat je zegt "het is niet de techniek, maar het gebruik van de techniek dat slecht is".
Fractal Design North • 13900KS • Asus ROG Ryuo III 240mm • Asus Z790-E • Z5 7800 c34 64GB RGB • nVidia RTX4090FE • Samsung 990 PRO 2TB • Asus ROG Swift PG42UQ 42” OLED 138Hz
tien
Elite Poster
Elite Poster
Berichten: 1335
Lid geworden op: 17 apr 2019, 11:48
Locatie: Attenhoven (Landen)
Uitgedeelde bedankjes: 106 keer
Bedankt: 66 keer

Het klassieke nobel verhaal? Denk dat de bron wel bij vfx zit.

Grote probleem is dat het als echt verkocht wordt en geloofwaardig (tot op zekere hoogte). We hebben nu al mensen die thuisacteurs aanvallen en 'reality' tv blijft langer hangen dan het nieuws. De technologie verzwijgen gaat echter niks uithalen, hopelijk helpt het beetje als mensen beseffen dat het helemaal niet zo moeilijk te doen is. Vergelijk met fotoshop effect, de grote hoop weet nu tenminste toch al dat niet alles op foto echt is. Zou veel gevaarlijker zijn als deze technieken ergens verborgen gehouden werden.

Ander groot probleem is misschien wel te vergelijken met malware. Was ooit experimenteel, daarna een 'onschuldige' grap of studentenstreken. Virussen zijn pak professioneler geworden nu er veel mee te winnen valt.
Gebruikersavatar
bitbite
Premium Member
Premium Member
Berichten: 558
Lid geworden op: 18 dec 2012, 14:01
Uitgedeelde bedankjes: 38 keer
Bedankt: 42 keer

selder schreef:Wat is het verschil om niet in te gaan tegen STL bestanden van werkende wapens openlijk te delen op het internet?
Sorry, slecht voorbeeld. Meer dan een paar schoten krijg je er echt niet uit, en technisch zal nog lang zo blijven.
MrBlueSky
Premium Member
Premium Member
Berichten: 503
Lid geworden op: 22 maa 2012, 19:29
Uitgedeelde bedankjes: 139 keer
Bedankt: 55 keer

bitbite schreef: Sorry, slecht voorbeeld. Meer dan een paar schoten krijg je er echt niet uit
1 is toch al genoeg :???:

* en te veel
Gebruikersavatar
meon
Administrator
Administrator
Berichten: 16729
Lid geworden op: 18 feb 2003, 22:02
Twitter: meon
Locatie: Bree
Uitgedeelde bedankjes: 574 keer
Bedankt: 770 keer

selder schreef:Wat is het verschil om niet in te gaan tegen STL bestanden van werkende wapens openlijk te delen op het internet? Als je iets of wat consistent zou zijn dan zou je hier dan ook vóór moeten zijn, want naar analogie wat je zegt "het is niet de techniek, maar het gebruik van de techniek dat slecht is".
De analogie zou zijn:
3D-printen --> Dat je via STL-bestanden daar wapens mee kan maken is een toepassing daarvan en die wil je wel/niet publiek beschikbaar hebben.
<>
Deepfake --> Een visueel scenario maken waarbij schade wordt berokkend aan personen wegens de context, of wegens gebrek aan portretrecht.
Gebruikersavatar
bitbite
Premium Member
Premium Member
Berichten: 558
Lid geworden op: 18 dec 2012, 14:01
Uitgedeelde bedankjes: 38 keer
Bedankt: 42 keer

MrBlueSky schreef:
bitbite schreef: Sorry, slecht voorbeeld. Meer dan een paar schoten krijg je er echt niet uit
1 is toch al genoeg :???:

* en te veel
Niemand gaat "iets" uitproberen met zo'n prul, dan is de gemiddelde doe-het-zelfzaak een compleet arsenaal.
En patronen zijn uiteraard ook niet printbaar...
ITnetadmin
userbase crew
userbase crew
Berichten: 8974
Lid geworden op: 28 jan 2012, 18:22
Uitgedeelde bedankjes: 199 keer
Bedankt: 690 keer
Recent bedankt: 2 keer

*Nog* niet...
Plaats reactie

Terug naar “Allerlei”