{"id":118340,"date":"2017-11-20T06:30:08","date_gmt":"2017-11-20T05:30:08","guid":{"rendered":"https:\/\/e52.nl\/?p=118340"},"modified":"2017-11-20T06:30:08","modified_gmt":"2017-11-20T05:30:08","slug":"algoritmen-zijn-niet-neutraal-waardevrij","status":"publish","type":"post","link":"https:\/\/ioplus.nl\/archive\/nl\/algoritmen-zijn-niet-neutraal-waardevrij\/","title":{"rendered":"“Algoritmen zijn niet neutraal of waardevrij”"},"content":{"rendered":"

Dr. Katleen Gabriels<\/a> is\u00a0universitair docent aan de Technische Universiteit Eindhoven. Zij is gespecialiseerd in computerethiek. In 2016 verscheen haar boek “Onlife”, waarin ze het potentieel en de valkuilen van het internet of things, digitalisering en big data analyseert.\u00a0Gabriels is stuurgroeplid van Ethicomp, de internationale organisatie rond ethisch computergebruik. Jaxenter interviewde haar<\/a> vanwege de keynote die ze volgende maand op de Machine Learning Conference in Berlijn zal geven.<\/p>\n

Door Melanie Feldman<\/a>, Jaxenter<\/p>\n

Onze eerste ML-conferentie<\/a>\u00a0is in december in Berlijn. Vandaag alvast een voorproefje. Met Dr. Katleen Gabriels,\u00a0universitair docent aan de Technische Universiteit Eindhoven,\u00a0spreken we over hoe algoritmen ons dagelijks leven be\u00efnvloeden en waarom ethiek essentieel is voor de ontwikkeling van machinaal leren.
\n<\/p>\n

JAXenter<\/strong>: In uw ML Conference keynote gaat u in op de invloed van algoritmen op ons dagelijks leven. Denkt u dat de invloed van algoritmen onderschat of overschat wordt?<\/em><\/p>\n

Katleen Gabriels: “Deze invloed is zeker onderschat. We leven al in het tijdperk van het internet of things (IoT), waar algoritmen steeds vaker dagelijks beslissingen voor en over ons nemen. Algoritmen beslissen al over ons liefdesleven op dating apps en dating websites, onze potenti\u00eble\u00a0banen (omdat bedrijven ze kunnen gebruiken om onze cv’s te scannen) en zelfs in rechtszaken.<\/p>\n

Of denk bijvoorbeeld aan ‘recommender engines<\/em>‘ zoals de zoekmachine van Google: vele mensen informeren zich dagelijks over de wereld op een platform waar algoritmen bepalen welke informatie je wel of niet\u00a0te zien krijgt. En het bedrijf houdt de algoritmen zelf geheim. Helaas denken nog te veel mensen dat de rangschikking van de resultaten gebaseerd is op ‘betrouwbaarheid’. We moeten hier bewuster over worden gemaakt, niet alleen over algoritmen maar ook over ‘search engine optimization’, vooral in een ioT-tijdperk met overtuigende en voorspellende technologie\u00ebn die onze autonomie gemakkelijk op ongewenste manieren kunnen schenden.”<\/p>\n

JAXenter<\/strong>: U zegt dat algoritmen nooit volledig neutraal kunnen zijn omdat hun makers (ontwikkelaars) nooit neutraal zijn. Welk advies kunt u ontwikkelaars geven om te voorkomen dat ze in de val van ongewenste be\u00efnvloeding terechtkomen?<\/em><\/p>\n

Katleen Gabriels: “Het\u00a0jezelf bewust zijn dat deze algoritmen neutraal noch waardevrij zijn, is een essentieel uitgangspunt. Aan de Technische Universiteit Eindhoven, waar ik werk, moeten alle studenten (toekomstige ingenieurs) cursussen ethiek volgen, zoals ingenieurswetenschappen. De niet-neutraliteit van technologie is een belangrijk onderdeel van deze cursussen. De manier waarop je als ingenieur een technologie ontwerpt, be\u00efnvloedt hoe gebruikers er gebruik van kunnen maken: dit is slechts een eenvoudig voorbeeld om te illustreren dat dit geen neutraal proces is. Wat de algoritmen betreft, is er een overvloed aan voorbeelden die laten zien hoe menselijke vooroordelen erin glippen, zoals racistische profilering in ‘precrime methodiek<\/em>‘. Ook hier is het belangrijk om het bewustzijn te vergroten.”
\n<\/p>\n

JAXenter<\/strong>: Een voorbeeld van ML is chatbot Tay, dat al snel ongepaste dingen begon te zeggen op het internet. Denkt u dat kunstmatige intelligentie in de eerste plaats een soort morele richtlijn nodig heeft?<\/em><\/p>\n

Katleen Gabriels: “Zeker! En Microsoft had dit in overweging moeten nemen voordat het Tay op twitter losliet. Er zijn ook positieve ontwikkelingen: Google heeft bijvoorbeeld een ethiekraad voor AI<\/a>. Deze morele richtlijn, of ethische code, zou echter deel moeten uitmaken van een uitgebreid openbaar debat, en niet slechts \u00e9\u00e9n in het bedrijf, of alleen in academische of vakkringen: wij als samenleving moeten samen nadenken over wenselijke en ongewenste ontwikkelingen.”<\/p>\n

JAXenter<\/strong>: Waar ziet u het grootste potentieel voor het positieve gebruik van kunstmatige intelligentie?<\/em><\/p>\n

Katleen Gabriels: “Ik juich technologische ontwikkeling en innovatie toe, maar deze\u00a0ontwikkelingen moeten hand in hand gaan met ethische vooruitgang en dat gebeurt niet vanzelf: we moeten echt hard werken om dat te bereiken.\u00a0Kunstmatige Intelligentie (AI) kan mensen op zoveel positieve manieren helpen dat het moeilijk is om maar \u00e9\u00e9n voorbeeld te kiezen. Zo biedt AI enorme mogelijkheden voor de gezondheidszorg, bijvoorbeeld in de analyse van complexe gegevens.”<\/p>\n

De toespraak die dr. Katleen Gabriels\u00a0houdt op de ML Conference richt zich op de reden waarom algoritmen en datasets niet neutraal zijn en op de manier waarop we kunnen anticiperen op ongewenste gevolgen en valkuilen.<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"

Dr. Katleen Gabriels is\u00a0universitair docent aan de Technische Universiteit Eindhoven. Zij is gespecialiseerd in computerethiek. In 2016 verscheen haar boek “Onlife”, waarin ze het potentieel en de valkuilen van het internet of things, digitalisering en big data analyseert.\u00a0Gabriels is stuurgroeplid van Ethicomp, de internationale organisatie rond ethisch computergebruik. Jaxenter interviewde haar vanwege de keynote die […]<\/p>\n","protected":false},"author":1572,"featured_media":521088,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"advgb_blocks_editor_width":"","advgb_blocks_columns_visual_guide":"","footnotes":""},"categories":[1039],"tags":[14541,1063],"location":[],"article_type":[],"serie":[],"archives":[],"internal_archives":[],"reboot-archive":[],"class_list":["post-118340","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sustainability-nl-nl","tag-datastudio-nl","tag-tue-nl"],"blocksy_meta":[],"acf":{"subtitle":"","text_display_homepage":false},"author_meta":{"display_name":"Gastauteur","author_link":"https:\/\/ioplus.nl\/archive\/author\/gastauteur\/"},"featured_img":"https:\/\/ioplus.nl\/archive\/wp-content\/uploads\/2017\/11\/machine-learning-300x122.jpg","coauthors":[],"tax_additional":{"categories":{"linked":["Sustainability<\/a>"],"unlinked":["Sustainability<\/span>"]},"tags":{"linked":["Datastudio<\/a>","TU\/e<\/a>"],"unlinked":["Datastudio<\/span>","TU\/e<\/span>"]}},"comment_count":"0","relative_dates":{"created":"Posted 8 years ago","modified":"Updated 8 years ago"},"absolute_dates":{"created":"Posted on November 20, 2017","modified":"Updated on November 20, 2017"},"absolute_dates_time":{"created":"Posted on November 20, 2017 6:30 am","modified":"Updated on November 20, 2017 6:30 am"},"featured_img_caption":"","series_order":"","_links":{"self":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts\/118340","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/users\/1572"}],"replies":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/comments?post=118340"}],"version-history":[{"count":0,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts\/118340\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/media\/521088"}],"wp:attachment":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/media?parent=118340"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/categories?post=118340"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/tags?post=118340"},{"taxonomy":"location","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/location?post=118340"},{"taxonomy":"article_type","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/article_type?post=118340"},{"taxonomy":"serie","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/serie?post=118340"},{"taxonomy":"archives","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/archives?post=118340"},{"taxonomy":"internal_archives","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/internal_archives?post=118340"},{"taxonomy":"reboot-archive","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/reboot-archive?post=118340"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}