{"id":267666,"date":"2021-01-11T17:00:19","date_gmt":"2021-01-11T16:00:19","guid":{"rendered":"http:\/\/innovationorigins.com\/?p=267666"},"modified":"2021-01-11T17:00:19","modified_gmt":"2021-01-11T16:00:19","slug":"superintelligente-machines-zijn-oncontroleerbaar","status":"publish","type":"post","link":"https:\/\/ioplus.nl\/archive\/nl\/superintelligente-machines-zijn-oncontroleerbaar\/","title":{"rendered":"&#8216;Superintelligente machines zijn oncontroleerbaar&#8217;"},"content":{"rendered":"\n<p>Zelflerende machines die auto\u2019s besturen, symfonie\u00ebn componeren, schilderijen maken of mensen verslaan met schaken. Kunstmatige intelligentie (KI) biedt fascinerende mogelijkheden. <\/p>\n\n\n\n<p>Wie weet wat er in de toekomst allemaal mogelijk is. Zijn machines misschien wel eerder in staat kanker of dementie te genezen dan mensen? En moeten we daar wel zo blij mee zijn? In sciencefictionfilms loopt immers vaak verkeerd af en blijken de machines booswichten te zijn. Denk bijvoorbeeld aan Skynet in Terminator, HAL in 2001: Space Odyssey of Mother in Alien.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Skynet<\/h3>\n\n\n\n<p>Overdreven angst? Veel wetenschappers breken zich hier in ieder geval al jaren het hoofd over. Dat geldt ook voor het Duitse <a rel=\"noreferrer noopener\" href=\"https:\/\/www.mpg.de\/16230184\/0108-bild-computerwissenschaftler-superintelligente-maschinen-koennten-wir-nicht-kontrollieren-149835-x?c=2191\" target=\"_blank\">Max-Planck instituut<\/a> dat samen met een groep internationale onderzoekers heeft onderzocht of het mogelijk is superintelligente machines te bewaken met algoritmes.  De conclusie is negatief. <\/p>\n\n\n\n<p>\u201cEen superintelligente machine die de wereld bestuurt, klinkt als sciencefiction. Maar er zijn nu al machines die bepaalde belangrijke taken helemaal alleen uitvoeren, zonder dat de mensen die ze geprogrammeerd hebben, volledig begrijpen hoe ze dat doen. Daarom was het voor ons een belangrijke vraag of dit op een bepaald moment oncontroleerbaar en gevaarlijk kan worden voor de mensheid\u201d, zegt Manuel Cebrian, een van de auteurs van de studie die is gepubliceerd in de <em><a href=\"https:\/\/www.jair.org\/index.php\/jair\/article\/view\/12202\" target=\"_blank\" rel=\"noreferrer noopener\">Journal of Artificial Intelligence Research<\/a><\/em>.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Twee controlemogelijkheden <\/h3>\n\n\n\n<p>Onderzoekers over de hele wereld hebben twee idee\u00ebn ontwikkeld over hoe je controle kan houden over KI:<\/p>\n\n\n\n<ul class=\"wp-block-list\"><li>Enerzijds zou je de slimme machine kunnen beperken door deze af te sluiten van bepaalde middelen zoals het internet en andere technische apparaten, zodat contact met de buitenwereld onmogelijk wordt. Het nadeel daarvan is alleen dat KI dan een heleboel problemen niet kan oplossen door een gebrek aan data.<\/li><\/ul>\n\n\n\n<ul class=\"wp-block-list\"><li>Een tweede optie is om de KI van meet af aan te instrueren dat deze alleen doelen nastreeft die in het belang van de mensheid zijn, bijvoorbeeld door er ethische regels in te programmeren, zoals de drie wetten voor robotica uit het werk van de Russische SF-schrijver Isaac Asimov (o.a. I Robot).<\/li><\/ul>\n\n\n\n<p>Wat waren ze ook alweer:<br><em>1. Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.<br>2. Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet.<br>3. Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.<\/em><\/p>\n\n\n\n<div class=\"wp-block-image\"><figure class=\"alignleft size-medium\"><img decoding=\"async\" src=\"https:\/\/archive.ioplus.nl\/wp-content\/uploads\/2021\/01\/original-678x469.png\" alt=\"\" class=\"wp-image-267669\"\/><figcaption>Beeld Max-Planck instituut<\/figcaption><\/figure><\/div>\n\n\n\n<h3 class=\"wp-block-heading\">Wetten werken niet<\/h3>\n\n\n\n<p>Maar volgens de onderzoekers bieden dit soort wetten onvoldoende garantie voor het beheersen van KI. In hun studie ontwierpen ze een theoretisch algoritme om ervoor te zorgen dat superintelligente KI de mensheid onder geen enkele omstandigheid schaadt. Dit algoritme simuleert eerst het gedrag van de KI en schakelt de machine uit als het riskant wordt.<\/p>\n\n\n\n<p>Uit een nadere analyse blijkt echter dat een dergelijk algoritme volgens de huidige stand van de computerwetenschap niet kan worden geprogrammeerd. De onderzoekers concluderen:<\/p>\n\n\n\n<p>\u201cOp basis van onze berekeningen is het niet mogelijk om een algoritme te programmeren dat zou detecteren of een KI de wereld zou schaden of niet. Bovendien kunnen we misschien niet eens zien of een machine wel superintelligent is. Want volgens de huidige kennis is het ook onmogelijk te berekenen of een machine een intelligentie heeft die superieur is aan die van de mens.\u201d<\/p>\n\n\n\n<p>Met andere woorden, nader onderzoek is nodig, en vertrouw machines in ieder geval nooit blind. To be continued&#8230; <\/p>\n\n\n\n<p>Lees ook onze andere <a href=\"https:\/\/innovationorigins.com\/nl\/dossier\/artificial-intelligence\/\" target=\"_blank\" rel=\"noreferrer noopener\">artikelen over artificial intelligence<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Zelflerende machines die auto\u2019s besturen, symfonie\u00ebn componeren, schilderijen maken of mensen verslaan met schaken. Kunstmatige intelligentie (KI) biedt fascinerende mogelijkheden. Wie weet wat er in de toekomst allemaal mogelijk is. Zijn machines misschien wel eerder in staat kanker of dementie te genezen dan mensen? En moeten we daar wel zo blij mee zijn? In sciencefictionfilms [&hellip;]<\/p>\n","protected":false},"author":1723,"featured_media":518157,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"advgb_blocks_editor_width":"","advgb_blocks_columns_visual_guide":"","footnotes":""},"categories":[90877],"tags":[16158,90682,94579,92911,104080,103126,95062,91726],"location":[25066],"article_type":[],"serie":[],"archives":[],"internal_archives":[],"reboot-archive":[],"class_list":["post-267666","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-digital-nl-nl","tag-ai-nl","tag-artificial-intelligence-nl-nl","tag-ki-nl-nl","tag-kunstmatige-intelligentie-nl","tag-kunstmatige-intelligentie-ai-nl","tag-max-planck-nl","tag-max-planck-instituut-nl","tag-newsletter-nl","location-duitsland"],"blocksy_meta":[],"acf":{"subtitle":"Volgens onderzoekers van het Max-Planck instituut is het onmogelijk een algoritme te programmeren dat kan detecteren of een superslimme KI de wereld schade toe kan brengen, of niet.","text_display_homepage":false},"author_meta":{"display_name":"Maurits Kuypers","author_link":"https:\/\/ioplus.nl\/archive\/author\/maurits-kuypers\/"},"featured_img":"https:\/\/ioplus.nl\/archive\/wp-content\/uploads\/2020\/10\/robot-3010309_1920-300x200.jpg","coauthors":[],"tax_additional":{"categories":{"linked":["<a href=\"https:\/\/ioplus.nl\/archive\/nl\/category\/digital-nl-nl\/\" class=\"advgb-post-tax-term\">Digital<\/a>"],"unlinked":["<span class=\"advgb-post-tax-term\">Digital<\/span>"]},"tags":{"linked":["<a href=\"https:\/\/ioplus.nl\/archive\/nl\/category\/digital-nl-nl\/\" class=\"advgb-post-tax-term\">AI<\/a>","<a href=\"https:\/\/ioplus.nl\/archive\/nl\/category\/digital-nl-nl\/\" class=\"advgb-post-tax-term\">Artificial Intelligence<\/a>","<a href=\"https:\/\/ioplus.nl\/archive\/nl\/category\/digital-nl-nl\/\" class=\"advgb-post-tax-term\">KI<\/a>","<a href=\"https:\/\/ioplus.nl\/archive\/nl\/category\/digital-nl-nl\/\" class=\"advgb-post-tax-term\">kunstmatige intelligentie<\/a>","<a href=\"https:\/\/ioplus.nl\/archive\/nl\/category\/digital-nl-nl\/\" class=\"advgb-post-tax-term\">kunstmatige intelligentie AI<\/a>","<a href=\"https:\/\/ioplus.nl\/archive\/nl\/category\/digital-nl-nl\/\" class=\"advgb-post-tax-term\">Max Planck<\/a>","<a href=\"https:\/\/ioplus.nl\/archive\/nl\/category\/digital-nl-nl\/\" class=\"advgb-post-tax-term\">Max-Planck Instituut<\/a>","<a href=\"https:\/\/ioplus.nl\/archive\/nl\/category\/digital-nl-nl\/\" class=\"advgb-post-tax-term\">Newsletter<\/a>"],"unlinked":["<span class=\"advgb-post-tax-term\">AI<\/span>","<span class=\"advgb-post-tax-term\">Artificial Intelligence<\/span>","<span class=\"advgb-post-tax-term\">KI<\/span>","<span class=\"advgb-post-tax-term\">kunstmatige intelligentie<\/span>","<span class=\"advgb-post-tax-term\">kunstmatige intelligentie AI<\/span>","<span class=\"advgb-post-tax-term\">Max Planck<\/span>","<span class=\"advgb-post-tax-term\">Max-Planck Instituut<\/span>","<span class=\"advgb-post-tax-term\">Newsletter<\/span>"]}},"comment_count":"0","relative_dates":{"created":"Posted 5 years ago","modified":"Updated 5 years ago"},"absolute_dates":{"created":"Posted on January 11, 2021","modified":"Updated on January 11, 2021"},"absolute_dates_time":{"created":"Posted on January 11, 2021 5:00 pm","modified":"Updated on January 11, 2021 5:00 pm"},"featured_img_caption":"","series_order":"","_links":{"self":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts\/267666","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/users\/1723"}],"replies":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/comments?post=267666"}],"version-history":[{"count":0,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts\/267666\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/media\/518157"}],"wp:attachment":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/media?parent=267666"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/categories?post=267666"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/tags?post=267666"},{"taxonomy":"location","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/location?post=267666"},{"taxonomy":"article_type","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/article_type?post=267666"},{"taxonomy":"serie","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/serie?post=267666"},{"taxonomy":"archives","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/archives?post=267666"},{"taxonomy":"internal_archives","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/internal_archives?post=267666"},{"taxonomy":"reboot-archive","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/reboot-archive?post=267666"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}