{"id":431842,"date":"2023-01-04T16:00:00","date_gmt":"2023-01-04T15:00:00","guid":{"rendered":"https:\/\/innovationorigins.com\/?p=431842"},"modified":"2023-01-04T16:00:00","modified_gmt":"2023-01-04T15:00:00","slug":"start-up-duckduckgoose-kan-deepfakes-herkennen-met-kunstmatige-intelligentie","status":"publish","type":"post","link":"https:\/\/ioplus.nl\/archive\/nl\/start-up-duckduckgoose-kan-deepfakes-herkennen-met-kunstmatige-intelligentie\/","title":{"rendered":"Start-up DuckDuckGoose kan deepfakes herkennen met kunstmatige intelligentie<\/strong>"},"content":{"rendered":"\n

Tegenwoordig kan je echte video\u2019s niet altijd meer onderscheiden van neppe. Leuk voor satirische filmpjes, maar het kan ook desinformatie en financi\u00eble fraude veroorzaken. Start-up DuckDuckGoose<\/a> zag de ernst van het probleem in en ontwikkelde een deepfakedetectietool. Een van de klanten die ze al hebben is de Tweede Kamer. Met andere woorden: als er een deepfake van Mark Rutte dreigt rond te gaan, bellen zij DuckDuckGoose. In deze aflevering van Start-up of the day<\/a> vertelt mede-oprichter Mark Evenblij meer over de ontwikkeling en het innovatieve bedrijf.<\/p>\n\n\n

<\/a>
<\/div><\/div>
De AI-software van Stability AI is echt ‘open source’: iedereen mag mee discussi\u00ebren<\/div>
Vroeger moest je kunnen tekenen om een mooie tekening te kunnen maken. Tegenwoordig schrijf je op wat je wil zien, en een AI-software maakt er … Continued<\/a><\/div><\/div><\/div>\n\n\n

Hoe werkt jullie detector?<\/strong><\/h2>\n\n\n\n

\u201cOnze detector is een AI-systeem. Als je bepaald beeldmateriaal niet vertrouwt, kan je een foto sturen naar ons systeem. Hiermee hebben we duizenden video\u2019s ge\u00efntegreerd om het verschil te zien tussen echt en nep. Het systeem geeft een soort highlight in de video aan, een gedeelte dat mogelijk niet klopt. Maar dat is niet het enige: we houden ons ook heel erg bezig met waarom het apparaat bepaalde keuzes maakt, hij moet zijn conclusies dus kunnen verantwoorden. Vervolgens wordt dat allemaal bekeken door menselijke experts om het probleem vast te stellen en ook waarom dat probleem er is. Dat wordt teruggekoppeld aan onze klanten.\u201d<\/p>\n\n\n\n

\"\"
De detectietool in werking. Het rode vierkant geeft aan dat er sprake is van deepfake. \u00a9 DuckDuckGoose<\/figcaption><\/figure>\n\n\n\n

Welk probleem proberen jullie op te lossen?<\/strong><\/h2>\n\n\n\n

\u201cMet deepfake kan je foto\u2019s, video\u2019s, spraakberichten en teksten maken die echt lijken, maar dat niet zijn. Omdat het er levensecht uit kan zien, wordt er veel fraude gepleegd. Sinds de coronapandemie willen bijvoorbeeld steeds meer banken dat je alles digitaal kan regelen, maar dan moet je jezelf wel digitaal identificeren. Bij digitale identiteit identificatie moet je een foto uploaden van je ID of een korte video van jezelf. Bij Rabobank moet je naar links en naar rechts kijken, ING flitst kleuren in je gezicht. Daar kan dus op in gespeeld worden met deepfakes en zo kan er uiteindelijk financi\u00eble fraude gepleegd worden. Dat willen wij voorkomen.\u201d<\/p>\n\n\n\n

Waarom richten jullie je niet op pornografie? Daar is het deepfakeprobleem toch veel groter?<\/strong><\/h2>\n\n\n\n

\u201c<\/strong>Klopt, we hebben dat ook wel geprobeerd. Maar het heeft weinig zin om dat te analysere. De gebruiker weet namelijk al dat het nep is. Ook staan veel pornografische bedrijven er niet voor open, want de pornoindustrie staat nou eenmaal niet bekend om hun ethiek. En zij verdienen juist aan de deepfakes. We hebben wel een pilot gedraaid met een bedrijf om te controleren op deepfakes voordat content geupload werd. De onderneming was nauwelijks bereid te betalen. Uiteindelijk hoorden we er niks meer van.\u201d<\/p>\n\n\n\n

Wie zijn jullie klanten?<\/strong><\/h2>\n\n\n\n

\u201cIn totaal hebben we nu vijf klanten: overheidsorganen NFI en de Tweede Kamer, een privaat Nederlands bedrijf dat forensische video-analyse tools maakt en twee ID-vertificatiebedrijven.\u201d<\/p>\n\n\n\n

Wat is jullie grootste uitdaging?<\/strong><\/h2>\n\n\n\n

\u201cOmdat deepfakefraude een relatief \u2018nieuw\u2019 probleem is, is het soms nog wel een uitdaging om potenti\u00eble klanten te overtuigen van het belang van onze tool. Er wordt fraude gepleegd om grote banken te beroven en daarmee worden er enorme bedragen afgetroggeld, zoals al in Hongkong gebeurde<\/a>. Gelukkig gebeurt dat nog op kleine schaal, maar toch.\u201d<\/p>\n\n\n

<\/a>
<\/div><\/div>
Waarom deepfakes een high concern crime zijn<\/div>
Al sinds het ontstaan van het wereldwijde web leeft de vrees dat mensen niet meer kunnen onderscheiden wat \u2018echt\u2019 is en wat \u2018virtueel\u2019. Lange tijd … Continued<\/a><\/div><\/div><\/div>\n\n\n

Hoe verwacht je dat deepfake zich verder ontwikkelt rondom identificatie?<\/strong><\/h2>\n\n\n\n

\u201cSteeds meer grote bedrijven gaan zich tegen beschermen tegen financi\u00eble fraude, wat er voor zal zorgen dat de fraudeurs het bij kleinere bedrijven of individuen gaan proberen. Wat je nu veel ziet, zijn die whatsappberichten die kinderen zogenaamd naar hun ouders sturen waarin ze vragen om een groot geldbedrag. In de toekomst zal dat niet bij een berichtje blijven, maar zal je een videocall krijgen van een persoon die er precies uitziet en klinkt als je zoon of dochter. Ik denk niet dat ouders of oma\u2019s daar tegen opgewassen zijn en door zullen hebben dat er iets niet klopt.\u201d<\/p>\n\n\n\n

Hoe was het om de financiering rond te krijgen voor DuckDuckGoose?<\/strong><\/h2>\n\n\n\n

\u201cOp zich wel makkelijk eigenlijk. We generen zelf omzet en verder hebben we alles via fondsen, subsidies en aanbestedingen binnen weten te halen. We hebben \u00e9\u00e9n aanvraag gedaan, maar de meeste aanvragen hebben we zelf geschreven. Dat was dan maar een paar dagen werk voor een paar duizend euro. Ik denk dat het in ons voordeel werkt dat we een belangrijk maatschappelijk probleem oplossen, daar zijn veel subsidies voor. En deepfakes is natuurlijk een \u2018heet onderwerp\u2019, dus we hadden ook wel een beetje geluk denk ik.\u201d<\/p>\n\n\n

<\/a>
<\/div><\/div>
Start-up of the day Archieven – Innovation Origins<\/div>
Verspreid over heel Europa hebben duizenden start-ups de meest innovatieve idee\u00ebn. Innovation Origins zet ze elke dag in de kijker.<\/div><\/div><\/div>","protected":false},"excerpt":{"rendered":"

Tegenwoordig kan je echte video\u2019s niet altijd meer onderscheiden van neppe. Leuk voor satirische filmpjes, maar het kan ook desinformatie en financi\u00eble fraude veroorzaken. Start-up DuckDuckGoose zag de ernst van het probleem in en ontwikkelde een deepfakedetectietool. Een van de klanten die ze al hebben is de Tweede Kamer. Met andere woorden: als er een […]<\/p>\n","protected":false},"author":2504,"featured_media":493028,"comment_status":"open","ping_status":"closed","sticky":false,"template":"views\/single-startup.blade.php","format":"standard","meta":{"_acf_changed":false,"advgb_blocks_editor_width":"","advgb_blocks_columns_visual_guide":"","footnotes":""},"categories":[11141],"tags":[90682,119434,36626,2017],"location":[6759],"article_type":[6758],"serie":[],"archives":[],"internal_archives":[],"reboot-archive":[],"class_list":["post-431842","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-startup-nl","tag-artificial-intelligence-nl-nl","tag-deepfakes-nl","tag-start-up-of-the-day-nl","tag-tech-nl","location-nederland","article_type-interview"],"blocksy_meta":[],"acf":{"subtitle":"Iedere dag zet de redactie van Innovation Origins een andere start-up in de schijnwerpers. Vandaag: DuckDuckGoose.","text_display_homepage":false},"author_meta":{"display_name":"Amy van de Wiel","author_link":"https:\/\/ioplus.nl\/archive\/author\/amy-van-de-wiel\/"},"featured_img":"https:\/\/ioplus.nl\/archive\/wp-content\/uploads\/2023\/01\/LDK01915.jpg","coauthors":[],"tax_additional":{"categories":{"linked":["Start-ups<\/a>"],"unlinked":["Start-ups<\/span>"]},"tags":{"linked":["Artificial Intelligence<\/a>","deepfakes<\/a>","Start-up of the day<\/a>","tech<\/a>"],"unlinked":["Artificial Intelligence<\/span>","deepfakes<\/span>","Start-up of the day<\/span>","tech<\/span>"]}},"comment_count":"0","relative_dates":{"created":"Posted 3 years ago","modified":"Updated 3 years ago"},"absolute_dates":{"created":"Posted on January 4, 2023","modified":"Updated on January 4, 2023"},"absolute_dates_time":{"created":"Posted on January 4, 2023 4:00 pm","modified":"Updated on January 4, 2023 4:00 pm"},"featured_img_caption":"","series_order":"","_links":{"self":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts\/431842","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/users\/2504"}],"replies":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/comments?post=431842"}],"version-history":[{"count":0,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts\/431842\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/media\/493028"}],"wp:attachment":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/media?parent=431842"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/categories?post=431842"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/tags?post=431842"},{"taxonomy":"location","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/location?post=431842"},{"taxonomy":"article_type","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/article_type?post=431842"},{"taxonomy":"serie","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/serie?post=431842"},{"taxonomy":"archives","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/archives?post=431842"},{"taxonomy":"internal_archives","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/internal_archives?post=431842"},{"taxonomy":"reboot-archive","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/reboot-archive?post=431842"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}