Het is voor veel mensen een eng idee. Een intelligente machine die de diagnose van je medische probleem stelt of een chirurgische robot die je opereert. En er zijn meer problemen. Zo is de term kunstmatige of artifici\u00eble intelligentie (AI) een vaag begrip. Dat leidt in het publieke debat tot het spookbeeld van een onvoorspelbare macht die zich op een dag tegen ons zou kunnen keren. In feite gaat het echter om wiskundigen die algoritmen ontwikkelen. En zij weten meestal precies wat zij berekenen, aldus Duitse en Oostenrijkse medici en wetenschappers afgelopen maand in een online discussie, georganiseerd door de Universiteit van Wenen.<\/p>\n\n\n\n
In deze editie van de zogenoemde Kaiserschild Lectures<\/strong><\/a> stelden de wetenschappers en medici dat het geenszins de bedoeling is dat kunstmatige intelligentie artsen vervangt. In onderzoekskringen wordt uitgegaan van de complementariteit van mens en machine. Er bestaan immers al human-in-the-Loop<\/a>-systemen, waarin mensen machines ondersteunen in moeilijke of onbekende situaties.<\/p>\n\n\n\n Kunstmatige intelligentie wordt al veel gebruikt in de geneeskunde. Een arts kan tijdens een onderzoek een app raadplegen ter ondersteuning van zijn diagnose. Er zijn ook andere vormen van AI in de medische wereld. Dat loopt van geautomatiseerde toewijzing van afspraken, telegeneeskunde en videotelefonie, tot apps die pati\u00ebnten helpen hun klachten te defini\u00ebren zodat ze gericht medische hulp kunnen zoeken.<\/p>\n\n\n\n “Wat tegenwoordig onder kunstmatige intelligentie in de geneeskunde valt, zijn patroonherkenningstechnieken. Algoritmen die patronen kunnen herkennen en classificeren. Waarbij zelfs voorspellende patronen worden herkend. De huidige standaardmethoden bestaan al acht \u00e0 negen jaar. Deze zijn gebaseerd op neurale netwerken,” legt Horst Hahn<\/a> van het Fraunhofer Institut f\u00fcr Digitale Medizin MEVIS<\/a><\/em> in Bremen uit. <\/p>\n\n\n\n “De geldigheid van de gevonden patronen of correlaties is afhankelijk van de onderliggende gegevens. Zelfs in de geneeskunde worden gegevens niet altijd zonder vooringenomenheid verzameld”, erkent data-miningdeskundige, professor Claudia Plant<\/a> van het Institut f\u00fcr Informatik<\/em> <\/a>aan de Universiteit van Wenen<\/a><\/em>. Het is bijvoorbeeld bekend, stelt zij, dat vrouwen, evenals bepaalde etnische groepen en genetische subgroepen, ondervertegenwoordigd zijn in medische databanken. <\/p>\n\n\n\n “Nog problematischer is dat we eigenlijk niet weten waar we naar moeten zoeken”, zegt Plant. “Onderzoek hiernaar staat nog in de kinderschoenen.” Hahn wijst erop dat kunstmatige intelligentie meer in het algemeen ongewenste gevolgen voor de samenleving kan hebben. Want als machines sneller dan mensen voorspellingen kunnen doen op basis van omvangrijke, hoogdimensionale data<\/a>, kan dit er volgens hem gemakkelijk toe leiden dat mensen details uit het oog verliezen en beslissingen overlaten aan de machine. “Dan val je regelrecht in de valkuilen van kunstmatige intelligentiesystemen. Als bijvoorbeeld gegevens niet kloppen en de subgroep niet goed genoeg getraind is, dan zijn de antwoorden niet in orde of hebben ze precies de bias die Plant aankaart”, zegt Hahn.<\/p>\n\n\n\n Wanneer machines sneller dan mensen voorspellingen kunnen doen op basis van hoogdimensionale data, is het voor mensen gemakkelijk om de details uit het oog te verliezen en beslissingen aan de machine over te laten.<\/p>Dr. Horst Hahn, hoofd Fraunhofer Institut f\u00fcr digitale Medizin MEVIS, Bremen <\/cite><\/blockquote>\n\n\n\n Kunstmatige intelligentie is gebaseerd op zeer grote hoeveelheden gegevens die in Open Data-platforms zijn verzameld. Onderzoekers zijn afhankelijk van deze bronnen. Tegelijkertijd bestaat het gevaar van identificeerbaarheid van de pati\u00ebnt. Vooral wanneer het gaat om zeldzame ziekten, het koppelen van verschillende online beschikbare gegevensbronnen, of zelfs het per ongeluk niet wissen van een datum. Hahn doet onderzoek naar een project waarbij de gegevens blijven waar ze worden gegenereerd, waar ze worden geanalyseerd en waar de analyses worden geco\u00f6rdineerd. <\/p>\n\n\n\n Het is een vorm van federated learning<\/a><\/strong>, of multicentrisch machinaal leren, waarmee algoritmen kunnen worden getraind om gegevens priv\u00e9 te houden. Hij is van mening dat deze aanpak des te noodzakelijker is nu steeds complexere vragen worden gesteld. Zoals de relatie van een bepaalde genetische variant tot patronen die we zien in beeldvorming en de mogelijke ziekteprogressie daaruit.<\/p>\n\n\n\n Er is nog een ander aspect dat op langere termijn tot een kenniskloof kan leiden. Kunstmatige intelligentie kan zeer goede beslissingen nemen, maar kan zichzelf niet altijd verklaren. Dit betekent dat causaliteit en correlatie niet afzonderlijk kunnen worden waargenomen, zoals de wetenschapsfilosofie vereist. Volgens Hahn doen onderzoekers over de hele wereld hier onderzoek naar. <\/p>\n\n\n\n Er zijn al verschillende methoden. Die moeten alleen nog in praktijk worden gebracht. Zo is er de mogelijkheid om soortgelijke gevallen in de databank op te vragen om zekerheid te krijgen. Bovendien moet het mogelijk zijn te evalueren waar het neurale netwerk onveilig is. “Er is een heel scala aan benaderingen. Ik denk dat we op een dag in staat zullen zijn om in zekere zin met deze systemen te praten. Dat we in staat zullen zijn om hen te vragen: hoe weet je dit? En dat ze ook zullen leren om te antwoorden: ‘ik weet het niet’,” aldus Hahn.<\/p>\n\n\n\n Hoogleraar Jens Meier <\/a>die de Leerstoel voor anesthesie en IC<\/a> bekleedt aan de Universiteit van Linz, denkt dat de roep om verklaarbare kunstmatige intelligentie wel eens overdreven zou kunnen zijn. “We kennen het mechanisme van de geneeskunde niet voldoende in detail. We weten alleen uit observatie hoe dingen werken. Causaliteit in de geneeskunde is iets wat we graag aan de buitenwereld verkopen. Maar als we eerlijk zijn, hebben we vaker alleen waarnemingen.”<\/p>\n\n\n\n Hij kreeg daarbij steun van Barbara Prainsack<\/a> van het Institut f\u00fcr Politikwissenschaft<\/a><\/em> aan de Universiteit van Wenen. Zij zegt dat ervaringskennis niet altijd expliciet wordt verwoord. “Maar dat betekent niet dat beslissingen verkeerd of slecht zijn”, zegt ze. Prainsack: “Meten we hier dan met twee maten en zeggen we dat de machine alles moet kunnen verklaren en de mens niet?”<\/p>\n\n\n\n De maatschappelijke verantwoordelijkheid ligt in het correct ontwerpen van de interactie tussen mens en machine, vat Prainsack samen. Machines worden niet moe en kunnen grote hoeveelheden gegevens verwerken. Het is echter niet alleen een kwestie van informatie overbrengen. Contextuele kennis en communicatie kunnen niet van machines worden verwacht. <\/p>\n\n\n\n Als een taak mensen vereist, dan moeten processen niet worden geautomatiseerd, ook al is dat technisch mogelijk.<\/p>Dr. Barbara Prainsack, Institut f\u00fcr Politikwissenschaften, Universiteit van Wenen<\/cite><\/blockquote>\n\n\n\n Plant moedigt een intensivering van het onderzoek naar kunstmatige intelligentie in de geneeskunde aan. Met het verklaarde doel deze te gebruiken ten voordele van de mens. Wereldwijd gaat het meeste geld voor onderzoek naar kunstmatige intelligentie naar de militaire sector. En vaak in landen met een twijfelachtig democratisch bestel. Plant: “Ik denk dat we de moed moeten hebben om onderzoek te doen naar kunstmatige intelligentie in de geneeskunde dat overeenstemt met de Europese waarden. En dat dan ook doen voor andere onderwerpen.”<\/p>\n\n\n\n <\/p>\n\n\n\n Ook interessant: Wet in de maak: Europese Commissie wil lijst superriskante AI<\/a><\/strong><\/p>\n","protected":false},"excerpt":{"rendered":" Het is voor veel mensen een eng idee. Een intelligente machine die de diagnose van je medische probleem stelt of een chirurgische robot die je opereert. En er zijn meer problemen. Zo is de term kunstmatige of artifici\u00eble intelligentie (AI) een vaag begrip. Dat leidt in het publieke debat tot het spookbeeld van een onvoorspelbare […]<\/p>\n","protected":false},"author":1688,"featured_media":523953,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"advgb_blocks_editor_width":"","advgb_blocks_columns_visual_guide":"","footnotes":""},"categories":[96412],"tags":[16158,16086,94579,111190],"location":[28207],"article_type":[55242],"serie":[],"archives":[],"internal_archives":[],"reboot-archive":[],"class_list":["post-287708","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-health-nl-nl","tag-ai-nl","tag-geneeskunde-nl","tag-ki-nl-nl","tag-medische-ethiek-nl","location-oostenrijk","article_type-column"],"blocksy_meta":[],"acf":{"subtitle":"Onderzoekers in Wenen bespraken de vraag of kunstmatige intelligentie een revolutie in de geneeskunde teweeg zal brengen. Er zijn nog veel beren op de weg, zoals de argwaan van pati\u00ebnten hierover.","text_display_homepage":false},"author_meta":{"display_name":"Hildegard Suntinger","author_link":"https:\/\/ioplus.nl\/archive\/author\/hildegard-suntinger\/"},"featured_img":"https:\/\/ioplus.nl\/archive\/wp-content\/uploads\/2021\/04\/c-Pixabay-Voltamax-300x200.jpeg","coauthors":[],"tax_additional":{"categories":{"linked":["Health<\/a>"],"unlinked":["Health<\/span>"]},"tags":{"linked":["AI<\/a>","geneeskunde<\/a>","KI<\/a>","medische ethiek<\/a>"],"unlinked":["AI<\/span>","geneeskunde<\/span>","KI<\/span>","medische ethiek<\/span>"]}},"comment_count":"0","relative_dates":{"created":"Posted 5 years ago","modified":"Updated 5 years ago"},"absolute_dates":{"created":"Posted on May 10, 2021","modified":"Updated on May 10, 2021"},"absolute_dates_time":{"created":"Posted on May 10, 2021 11:00 am","modified":"Updated on May 10, 2021 11:00 am"},"featured_img_caption":"","series_order":"","_links":{"self":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts\/287708","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/users\/1688"}],"replies":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/comments?post=287708"}],"version-history":[{"count":0,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts\/287708\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/media\/523953"}],"wp:attachment":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/media?parent=287708"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/categories?post=287708"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/tags?post=287708"},{"taxonomy":"location","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/location?post=287708"},{"taxonomy":"article_type","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/article_type?post=287708"},{"taxonomy":"serie","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/serie?post=287708"},{"taxonomy":"archives","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/archives?post=287708"},{"taxonomy":"internal_archives","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/internal_archives?post=287708"},{"taxonomy":"reboot-archive","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/reboot-archive?post=287708"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Ongewenste gevolgen<\/h3>\n\n\n\n
Databescherming<\/h3>\n\n\n\n
Berekenbare kunstmatige intelligentie<\/h3>\n\n\n\n
Overdreven voorwaarden<\/h3>\n\n\n\n
Vormgeving van de interactie<\/h3>\n\n\n\n