{"id":201349,"date":"2019-12-21T16:24:23","date_gmt":"2019-12-21T15:24:23","guid":{"rendered":"https:\/\/innovationorigins.com\/?p=201349"},"modified":"2019-12-21T16:24:23","modified_gmt":"2019-12-21T15:24:23","slug":"es-gibt-keine-entschuldigung-dafuer-dass-der-designer-dunkle-haut-ignoriert","status":"publish","type":"post","link":"https:\/\/ioplus.nl\/archive\/de\/es-gibt-keine-entschuldigung-dafuer-dass-der-designer-dunkle-haut-ignoriert\/","title":{"rendered":"“Es gibt keine Entschuldigung daf\u00fcr, dass der Designer dunkle Haut ignoriert”"},"content":{"rendered":"

Die Philosophin Katleen Gabri\u00ebls hat k\u00fcrzlich ihr Buch ‘Regels voor Robots’\u00a0 im Rahmen ihres Lehrstuhls an der Vrije Universiteit Brussel ver\u00f6ffentlicht. Vorige Woche hat Innovation Origins den ersten Teil dieses Interviews<\/a> ver\u00f6ffentlicht. Lesen Sie hier den zweiten Teil, in dem Gabri\u00ebls \u00fcber die Verantwortung der Designer der KI spricht, die die Roboter steuert.<\/p>\n

Was ist die wichtigste Schlussfolgerung aus dem derzeitigen Stand der Dinge in Bezug auf die Regeln f\u00fcr Roboter?<\/h3>\n

“Wenn man ein Buch schreibt, fragt man sich zuallererst: Was kann ich zum Thema beitragen? Ich wollte den Stand der KI-Debatte beschreiben. Sie k\u00f6nnen keine Zeitung lesen ohne auf ein Thema zu sto\u00dfen, das in irgendeiner Weise mit KI-Systemen wie Facebook oder Google verkn\u00fcpft ist. Ich wollte diese Debatte eingehend interpretieren. Ich hielt es auch f\u00fcr wichtig aufzuzeigen, dass so einiges in der aktuellen Debatte gar nicht neu ist. Um Verwirrung zu vermeiden, unterscheide ich auch zwischen dem, was KI-Systeme bereits k\u00f6nnen, was sie noch nicht k\u00f6nnen und was sie vielleicht nie k\u00f6nnen. Dadurch wird die Debatte auch nuancierter. Und nat\u00fcrlich geht es darum, dass diese Systeme nicht neutral sind.”<\/p>\n

Ich habe in Ihrem Buch von einigen Dingen erfahren, die nicht in Ordnung sind. Zum Beispiel gibt es manchmal Voreingenommenheiten, sogenannte Bias, im Design. So konnte der Sensor einer Seifenmaschine auf einer \u00f6ffentlichen Toilette dunkles Pigment nicht erkennen und es kam keine Seife heraus, wenn dunkle Menschen ihre Hand darunter hielten.<\/h3>\n

“Eine L\u00f6sung daf\u00fcr w\u00e4re, F\u00e4cher wie Technik verbindlich vorzuschreiben, damit zuk\u00fcnftige Ingenieure Werkzeuge haben, um sich mit solchen Themen auseinanderzusetzen.”<\/p>\n

Aber ist das eine Frage der Ethik oder nur eine Frage der Dummheit? Die Designer haben diesen Seifensensor wahrscheinlich nicht absichtlich so entworfen.<\/h3>\n

“Ist das Ethik? Ja, das ist es. Denn ein Designer trifft nicht nur funktionale, sondern auch moralische Entscheidungen. Wenn man ein Design nur f\u00fcr eine bestimmte Art von Endbenutzer macht und es nicht im Voraus an einer unterschiedlichen Gruppe von Endbenutzern testet, befindet man sich im Bereich der Ethik”.<\/p>\n

https:\/\/twitter.com\/nke_ise\/status\/897756900753891328?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E897756900753891328&ref_url=https%3A%2F%2Fwww.iflscience.com%2Ftechnology%2Fthis-racist-soap-dispenser-reveals-why-diversity-in-tech-is-muchneeded%2F<\/a><\/p>\n

Aber wenn es nicht mit Absicht gemacht wurde?<\/h3>\n

“Das war keine Absicht.”<\/p>\n

Oder glauben Sie, dass der Designer diese Verantwortung hat und dass es keine Rolle spielt, ob er das Produkt bewusst nicht an dieser vielf\u00e4ltigen Gruppe von Endnutzern getestet hat oder nicht?<\/h3>\n

“Ich denke, dass es in diesem Fall ein schwaches Argument ist, dass er oder sie es nicht mit Absicht getan hat. Schlie\u00dflich hat das Design in jedem Fall eine ethische Wirkung. Wenn Sie sagen “es ist nicht beabsichtigt”, befreien Sie sich von Ihrer moralischen Verantwortung, verschiedene Benutzer zu ber\u00fccksichtigen. In einer \u00f6ffentlichen Toilette muss es um alle gehen.”<\/p>\n

Lassen Sie es mich so ausdr\u00fccken: Es ist schlimmer, wenn der Designer die Eigenschaften der Benutzergruppe bewusst nicht untersucht hat.<\/h3>\n

“Nur eine Art von Endverbraucher im Auge zu haben und das eigene Leben als Norm f\u00fcr den Rest der Welt zu betrachten, ist eine Entscheidung mit ethischen Konsequenzen. Um eine Analogie zu den Autocrash-Test-Dummys herzustellen: Der erste Crash-Test-Dummy nach dem Vorbild der ‘durchschnittlichen’ Frau in Europa stammt aus dem Jahr 2014. Da kann man auch sagen: Das war nicht mit Absicht. Aber Frauen machen die H\u00e4lfte der Weltbev\u00f6lkerung aus. Frauen haben zum Beispiel weniger Muskeln im Nacken und Oberk\u00f6rper, was sie anf\u00e4lliger f\u00fcr ein Schleudertrauma macht. Deshalb ist es so wichtig, einen Crash-Test-Dummy f\u00fcr Frauen zu modellieren”.<\/p>\n

Auch in der Medizin ist dies schon sehr lange ein Problem. Das hat nichts mit KI zu tun. Der K\u00f6rper des Mannes dient oft als Ausgangspunkt f\u00fcr die Behandlung von Krankheiten. Aber der K\u00f6rper der Frau reagiert in vielen F\u00e4llen ganz anders.<\/h3>\n

“Ja. Ich beziehe mich oft auf das Buch von Caroline Criado Perez, in dem das im Detail beschrieben wird.”<\/p>\n

Beamte der Europ\u00e4ischen Kommission haben w\u00e4hrend der Research & Innovation Days in Br\u00fcssel im vergangenen Herbst bekannt gegeben, dass sie das \u00e4ndern wollen<\/a>. Es stellte sich heraus, dass bestimmte Anwendungen der KI keine Merkmale von Frauen aufwiesen, die daher ungerechtfertigterweise nicht in den Anwendungsbereich fielen.<\/h3>\n

“Zu sagen, dass dies nicht beabsichtigt war, w\u00e4re auch in diesem Fall ein zu schwaches Argument.”<\/p>\n

Lesn Sie auch: ‘Es ist utopisch zu glauben, dass Menschen eine unfehlbare k\u00fcnstliche Intelligenz schaffen k\u00f6nnen’<\/a>.<\/strong><\/h4>\n

<\/h3>\n

Ich stelle diese “Schuldfrage”, weil es eine harte Debatte \u00fcber Rassismus, einschlie\u00dflich des Judenhasses, gibt. Es f\u00e4llt mir auf, dass es tats\u00e4chlich eine Gruppe von Menschen gibt, die absichtlich Rassenhass ausdr\u00fcckt. Es handelt sich um ein aggressives Verhalten, das sich aber vom Verhalten der Gruppe unterscheidet, die unbewusst die unterschiedlichen Merkmale der verschiedenen Bev\u00f6lkerungsgruppen nicht ber\u00fccksichtigt.<\/h3>\n

“Nat\u00fcrlich. Ich erkenne diesen Unterschied an. Aber das entbindet die Designer von KI nicht von der Verantwortung, dies zu ber\u00fccksichtigen. Das meine ich ja. Auch innerhalb der Designteams fehlt es an Vielfalt und Interdisziplinarit\u00e4t. Obwohl ich gleichzeitig betonen m\u00f6chte, dass die meisten Designer voller Leidenschaft und Hingabe arbeiten. Ich will ganz sicher nicht mit dem Finger auf alle zeigen. Es geht – letztlich – um Kooperation und einen Dialog, in dem Philosophen und Designer, jeder mit seinem eigenen Fachwissen, \u00fcber ein Design nachdenken. Und in dem sie dar\u00fcber nachdenken, wie bestimmte Probleme, wie z.B. die des Datenschutzes, schon im Vorfeld angegangen werden k\u00f6nnen”.<\/p>\n

Was ist Ihre wichtigste Schlussfolgerung nach dem Schreiben Ihres Buches ‘Regeln f\u00fcr Roboter’?<\/h3>\n

“Vielleicht ist es diese: dass ein Design nicht neutral ist. Und dass Sie als Ingenieur oder Kunde daf\u00fcr verantwortlich sind. Niemand bestreitet, dass auch der Nutzer Verantwortung tr\u00e4gt. Aber er hat nicht die gleiche Macht wie der Designer. Der Designer kann Menschen lenken. Viele Technologien, die von Werbeeinnahmen abh\u00e4ngen, wie z.B. Facebook, sind nach dem Prinzip “Ablenkung durch Design” konzipiert. Dies beeinflusst nat\u00fcrlich das Verhalten der Menschen. Denn ihre mentalen Schw\u00e4chen werden gezielt angesprochen. Sie nutzen die Plattform kostenlos. Aber sie zahlen mit ihren Daten, ihrer Zeit und ihrer Aufmerksamkeit.”<\/p>\n

https:\/\/youtu.be\/Uk4OJnvf0GU<\/p>\n","protected":false},"excerpt":{"rendered":"

Die Philosophin Katleen Gabri\u00ebls hat k\u00fcrzlich ihr Buch ‘Regels voor Robots’\u00a0 im Rahmen ihres Lehrstuhls an der Vrije Universiteit Brussel ver\u00f6ffentlicht. Vorige Woche hat Innovation Origins den ersten Teil dieses Interviews ver\u00f6ffentlicht. Lesen Sie hier den zweiten Teil, in dem Gabri\u00ebls \u00fcber die Verantwortung der Designer der KI spricht, die die Roboter steuert. Was ist […]<\/p>\n","protected":false},"author":1743,"featured_media":509789,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"advgb_blocks_editor_width":"","advgb_blocks_columns_visual_guide":"","footnotes":""},"categories":[36843],"tags":[44744,30276,29732,44747,25615],"location":[40295,24073],"article_type":[],"serie":[],"archives":[],"internal_archives":[],"reboot-archive":[],"class_list":["post-201349","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-digital-de-de","tag-katleen-gabriels-de-de","tag-ki-de","tag-kuenstliche-intelligenz-de","tag-regeln-fuer-roboter-de","tag-tu-e-de","location-belgien","location-niederlande"],"blocksy_meta":[],"acf":{"subtitle":"","text_display_homepage":false},"author_meta":{"display_name":"Lucette Mascini","author_link":"https:\/\/ioplus.nl\/archive\/author\/lucette-mascini\/"},"featured_img":"https:\/\/ioplus.nl\/archive\/wp-content\/uploads\/2019\/12\/KatleenGabri\u00ebls10-scaled.jpg","coauthors":[],"tax_additional":{"categories":{"linked":["Digital<\/a>"],"unlinked":["Digital<\/span>"]},"tags":{"linked":["Katleen Gabriels<\/a>","KI<\/a>","k\u00fcnstliche intelligenz<\/a>","Regeln f\u00fcr Roboter<\/a>","TU\/e<\/a>"],"unlinked":["Katleen Gabriels<\/span>","KI<\/span>","k\u00fcnstliche intelligenz<\/span>","Regeln f\u00fcr Roboter<\/span>","TU\/e<\/span>"]}},"comment_count":"0","relative_dates":{"created":"Posted 6 years ago","modified":"Updated 6 years ago"},"absolute_dates":{"created":"Posted on December 21, 2019","modified":"Updated on December 21, 2019"},"absolute_dates_time":{"created":"Posted on December 21, 2019 4:24 pm","modified":"Updated on December 21, 2019 4:24 pm"},"featured_img_caption":"","series_order":"","_links":{"self":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts\/201349","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/users\/1743"}],"replies":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/comments?post=201349"}],"version-history":[{"count":0,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts\/201349\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/media\/509789"}],"wp:attachment":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/media?parent=201349"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/categories?post=201349"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/tags?post=201349"},{"taxonomy":"location","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/location?post=201349"},{"taxonomy":"article_type","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/article_type?post=201349"},{"taxonomy":"serie","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/serie?post=201349"},{"taxonomy":"archives","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/archives?post=201349"},{"taxonomy":"internal_archives","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/internal_archives?post=201349"},{"taxonomy":"reboot-archive","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/reboot-archive?post=201349"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}