{"id":167195,"date":"2019-03-11T15:07:25","date_gmt":"2019-03-11T14:07:25","guid":{"rendered":"https:\/\/innovationorigins.com\/?p=167195"},"modified":"2019-03-11T15:07:25","modified_gmt":"2019-03-11T14:07:25","slug":"ki-unter-der-lupe-kluger-hans-oder-klevere-entscheidung","status":"publish","type":"post","link":"https:\/\/ioplus.nl\/archive\/de\/ki-unter-der-lupe-kluger-hans-oder-klevere-entscheidung\/","title":{"rendered":"KI unter der Lupe: Kluger Hans oder klevere Entscheidung?"},"content":{"rendered":"

Forschende der Technischen Universit\u00e4t Berlin (TU Berlin)<\/a>, des Fraunhofer Heinrich-Hertz-Instituts (HHI)<\/a>\u00a0und der Singapore University of Technology and Design<\/a>\u00a0untersuchten k\u00fcrzlich, wie verschiedene KI-Systeme zu ihren Ergebnissen kommen. Denn bislang war es der Wissenschaft meist verborgen, ob es sich wirklich um eine intelligente L\u00f6sung oder nur um einen statistisch erfolgreichen Weg handelte. Unter dem Aspekt, dass KI nicht nur als digitaler Sprachassistent oder \u00dcbersetzer genutzt wird, sondern sie auch im Bereich der medizinischen Diagnostik sowie des autonomen Fahrens eingesetzt wird, ist ein Blick auf die Funktionsweise der Lernalgorithmen ein relevanter Faktor.<\/p>\n

Explainable AI<\/h3>\n

F\u00fcr ihre Arbeit entwickelten die Forscher ein Verfahren, anhand dessen sie KI Systeme analysieren und quantifizieren k\u00f6nnen. \u201eDiese sogenannte \u201aexplainable AI’ [erkl\u00e4rbare K\u00fcnstliche Intelligenz] ist einer der wichtigsten Schritte f\u00fcr die praktische Anwendung und Verbreitung von KI”, so Dr. Klaus-Robert M\u00fcller, Professor f\u00fcr Maschinelles Lernen an der TU Berlin: “Insbesondere in der medizinischen Diagnostik oder in sicherheitskritischen Systemen d\u00fcrfen wir keine KI-Algorithmen mit unsicheren Probleml\u00f6sungsstrategien oder sonstige KI-Schummel-Kandidaten einf\u00fchren.”<\/p>\n

Wichtigste Voraussetzung f\u00fcr diese spezielle, automatisierte Technologie ist eine von der TU Berlin und dem HHI entwickelte Technik namens \u201eLayer-wise Relevance Propagation” (LRP). Diese macht sichtbar, aufgrund welcher Kriterien KI-Systeme Entscheidungen treffen.<\/p>\n

Als Weiterentwicklung der LRP-Technologie gilt die \u201eSpectral Relevance Analysis” (SpRAy). Erst mit ihr wird das breite Spektrum der erlernten Entscheidungsverhalten identifiziert und quantifiziert. Ob naive Probleml\u00f6sung, Schummel-Strategie oder hochelaborierte, intelligente und strategische Entscheidung – die Wissenschaftler stellten verschiedene KI-Algorithmen auf die Probe. So konnten auch bei sehr gro\u00dfen Datens\u00e4tzen unerw\u00fcnschte L\u00f6sungen ausgemacht werden.<\/p>\n

Dazu Dr. Wojciech Samek, Gruppenleiter am Fraunhofer HHI: \u201eWir waren sehr erstaunt \u00fcber die gro\u00dfe Bandbreite der gelernten Probleml\u00f6sungsstrategien. Selbst moderne KI-Systeme haben nicht immer einen aus menschlicher Perspektive sinnvollen L\u00f6sungsweg gefunden, sondern nutzten bisweilen sogenannte \u201aClever-Hans-Strategien’.”<\/p>\n

Der Kluge Hans (Clever Hans) war ein Pferd des Schulmeisters und Mathematiklehrer Wilhelm von Osten, das angeblich rechnen und z\u00e4hlen konnte. In den Jahren um 1900 galt Hans als wissenschaftliche Sensation. Denn in 90 Prozent der F\u00e4lle beantwortete der feinf\u00fchlige Orlow-Traber durch das Klopfen mit einem Huf oder durch Nicken beziehungsweise Sch\u00fctteln des Kopfes zum Beispiel arithmetische Aufgaben richtig. Sp\u00e4ter stellte sich heraus, dass Hans zwar nicht rechnen konnte, aber er seine richtige Antwort aus der K\u00f6rperreaktion des Fragestellers ableitete.<\/p>\n

\"\"
Diese Heatmap zeigt: Der Algorithmus trifft die Entscheidung Zug oder nicht Zug anhand der Schienen-Bildpunkte und nicht anhand derer, die den Zug ausmachen.
\u00a9Nature Communications\/CC BY<\/figcaption><\/figure>\n

L\u00f6sungsstrategien, die denen des kleveren Hans entsprechen, konnten die Forscher um Klaus-Robert M\u00fcller und Wojciech Samek auch bei KI-Systemen finden. So verfolgte zum Beispiel eines, das sogar vor einigen Jahren mehrere internationale Wettbewerbe zur Klassifikation von Bildern gewonnen hatte, eine aus menschlicher Sicht naive L\u00f6sungsstrategie: Es klassifizierte Bilder vorwiegend anhand des Kontextes. Dabei wurden zum Beispiel Bilder der Kategorie \u201eSchiff” zugeordnet, wenn viel Wasser im Bild zu sehen war. Andere Bilder wurden als \u201eZug” klassifiziert, wenn Schienen vorhanden waren. Wieder andere Bilder wurden anhand des Copyright-Schriftzuges der richtigen Kategorie zugeordnet. Die eigentliche Aufgabe, n\u00e4mlich Schiffe oder Z\u00fcge zu erkennen, hat dieses KI-System nicht gel\u00f6st. Doch immerhin: die Mehrzahl der Bilder konnte es im Endeffekt korrekt klassifizieren.<\/p>\n

Auch die sogenannten “tiefen neuronalen Netzwerke” nutzen diese Art der fehlerhaften L\u00f6sungsstrategie. Denn sie st\u00fctzen ihre Klassifikations-Entscheidung zum Teil auf Artefakte, die w\u00e4hrend der Pr\u00e4paration von Bildern entstanden, aber mit dem eigentlichen Bildinhalt gar nichts zu tun haben.<\/p>\n

Naive KI f\u00fcr die Praxis unbrauchbar<\/h3>\n

\u201eSolche KI-Systeme sind f\u00fcr den praktischen Einsatz v\u00f6llig unbrauchbar. Ihr Einsatz in der medizinischen Diagnostik oder in sicherheitskritischen Bereichen birgt sogar enorme Gefahren”, warnt Klaus-Robert M\u00fcller: \u201eEs ist durchaus denkbar, dass ungef\u00e4hr die H\u00e4lfte der aktuell eingesetzten KI-Systeme implizit oder explizit solche \u201aClever Hans’-Strategien nutzen. Es ist Zeit, das systematisch zu \u00fcberpr\u00fcfen, damit sichere KI-Systeme entwickelt werden k\u00f6nnen.”<\/p>\n

Mit der neuen Technik konnten aber auch KI-Algorithmen identifiziert werden, die unerwartet \u201eintelligente” Strategien anwandten. Dazu geh\u00f6ren Systeme, die zum Beispiel in der Lage sind, die Atari-Spiele \u201eBreakout” \u2013 hier wird mit einem virtuellen Schl\u00e4ger der Ball so gelenkt, dass er die am oberen Bildschirmrand erscheinenden Baukl\u00f6tze wegschie\u00dft \u2013, und \u201ePinball” (virtuelles Flipperspiel) zu spielen.<\/p>\n

\u201eHier haben die KI-Systeme ganz klar das Konzept des Spiels \u201averstanden’ und einen intelligenten Weg gefunden, zielgerichtet und risikoarm sehr viele Punkte zu sammeln. Dabei schl\u00e4gt das System bisweilen Wege ein, die ein echter Spieler nicht nutzen w\u00fcrde”, so Wojciech Samek.<\/p>\n

Die automatisierte Technik steht als Open Source<\/a> allen Wissenschaftlern und Wissenschaftlerinnen zur Verf\u00fcgung. \u201eWir sehen unsere Arbeit als einen wichtigen ersten Schritt, KI-Systeme in Zukunft robuster, erkl\u00e4rbar und sicher zu machen. Denn das ist die wesentliche Voraussetzung f\u00fcr den Einsatz von KI \u00fcberhaupt”, so Klaus-Robert M\u00fcller.<\/p>\n

Dieser Artikel k\u00f6nnte Sie auch interessieren<\/h3>\n

Gratwanderungen: K\u00fcnstliche Intelligenz in der Medizin<\/a><\/p>\n

Menschliches Gehirn inspiriert Forscher bei K\u00fcnstlicher Intelligenz<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Forschende der Technischen Universit\u00e4t Berlin (TU Berlin), des Fraunhofer Heinrich-Hertz-Instituts (HHI)\u00a0und der Singapore University of Technology and Design\u00a0untersuchten k\u00fcrzlich, wie verschiedene KI-Systeme zu ihren Ergebnissen kommen. Denn bislang war es der Wissenschaft meist verborgen, ob es sich wirklich um eine intelligente L\u00f6sung oder nur um einen statistisch erfolgreichen Weg handelte. Unter dem Aspekt, dass KI […]<\/p>\n","protected":false},"author":1706,"featured_media":507186,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"advgb_blocks_editor_width":"","advgb_blocks_columns_visual_guide":"","footnotes":""},"categories":[23253],"tags":[32155,30276,32158,32161,32164,32167],"location":[24328],"article_type":[],"serie":[],"archives":[],"internal_archives":[],"reboot-archive":[],"class_list":["post-167195","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-nachhaltigkeit","tag-hhi-de","tag-ki-de","tag-klevere-entscheidung-de","tag-kluger-hans-de","tag-sutd-de","tag-tu-berlin-de","location-deutschland"],"blocksy_meta":[],"acf":{"subtitle":"","text_display_homepage":false},"author_meta":{"display_name":"Almut Otto","author_link":"https:\/\/ioplus.nl\/archive\/author\/almut-otto\/"},"featured_img":"https:\/\/ioplus.nl\/archive\/wp-content\/uploads\/2019\/03\/pi040_schiff.jpg","coauthors":[],"tax_additional":{"categories":{"linked":["Nachhaltigkeit<\/a>"],"unlinked":["Nachhaltigkeit<\/span>"]},"tags":{"linked":["HHI<\/a>","KI<\/a>","Klevere Entscheidung<\/a>","Kluger Hans<\/a>","SUTD<\/a>","TU Berlin<\/a>"],"unlinked":["HHI<\/span>","KI<\/span>","Klevere Entscheidung<\/span>","Kluger Hans<\/span>","SUTD<\/span>","TU Berlin<\/span>"]}},"comment_count":"0","relative_dates":{"created":"Posted 7 years ago","modified":"Updated 7 years ago"},"absolute_dates":{"created":"Posted on March 11, 2019","modified":"Updated on March 11, 2019"},"absolute_dates_time":{"created":"Posted on March 11, 2019 3:07 pm","modified":"Updated on March 11, 2019 3:07 pm"},"featured_img_caption":"","series_order":"","_links":{"self":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts\/167195","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/users\/1706"}],"replies":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/comments?post=167195"}],"version-history":[{"count":0,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts\/167195\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/media\/507186"}],"wp:attachment":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/media?parent=167195"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/categories?post=167195"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/tags?post=167195"},{"taxonomy":"location","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/location?post=167195"},{"taxonomy":"article_type","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/article_type?post=167195"},{"taxonomy":"serie","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/serie?post=167195"},{"taxonomy":"archives","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/archives?post=167195"},{"taxonomy":"internal_archives","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/internal_archives?post=167195"},{"taxonomy":"reboot-archive","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/reboot-archive?post=167195"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}