{"id":210793,"date":"2020-02-27T11:40:01","date_gmt":"2020-02-27T10:40:01","guid":{"rendered":"https:\/\/innovationorigins.com\/?p=210793"},"modified":"2020-02-27T11:40:01","modified_gmt":"2020-02-27T10:40:01","slug":"neues-gesetz-europaeische-kommission-will-liste-mit-extrem-risikoreichen-ki","status":"publish","type":"post","link":"https:\/\/ioplus.nl\/archive\/de\/neues-gesetz-europaeische-kommission-will-liste-mit-extrem-risikoreichen-ki\/","title":{"rendered":"Neues Gesetz: Europ\u00e4ische Kommission will Liste mit extrem risikoreicher KI"},"content":{"rendered":"

Die Europ\u00e4ische Kommission will eine Liste f\u00fcr extrem risikoreiche Anwendungen der k\u00fcnstlichen Intelligenz (KI) erstellen. Zum Beispiel solche, die in der medizinischen Versorgung oder in selbstfahrenden Autos verwendet werden, die eine Sicherheitspr\u00fcfung bestehen m\u00fcssen, bevor sie auf den Markt kommen d\u00fcrfen. Das ist im sogenannten Wei\u00dfbuch<\/a> \u00fcber k\u00fcnstliche Intelligenz \u201eA European approach to excellence and trust<\/a>\u201c (Ein europ\u00e4ischer Ansatz f\u00fcr Spitzenleistungen und Vertrauen) dargelegt, das die Europ\u00e4ische Kommission letzte Woche ver\u00f6ffentlicht hat.<\/p>\n

Der Grund daf\u00fcr ist, dass es derzeit nicht klar ist, wer f\u00fcr falsche Entscheidungen verantwortlich ist, die KI selbst\u00e4ndig trifft, wenn es zu Unf\u00e4llen kommt. Deshalb will die Europ\u00e4ische Kommission im Voraus kl\u00e4ren, wie eine KI Entscheidungen trifft. Die Europ\u00e4ische Kommission will auch nachvollziehen k\u00f6nnen, wie die KI trainiert wird. Dar\u00fcber hinaus, wie die KI Daten sammelt, was die KI damit macht. Und auch, in welchem Umfang und f\u00fcr welche Parteien diese Daten zug\u00e4nglich sind.<\/p>\n

Zu viel Arbeit f\u00fcr KMUs<\/h3>\n

Im Wei\u00dfbuch hei\u00dft es, dass es die M\u00f6glichkeiten der KMUs \u00fcbersteigt, alle KI, die entwickelt wurden, durch die M\u00fchlen der Sicherheit zu bringen. Und in einigen Bereichen ist es nicht einmal notwendig, weil es nur wenige vorhersehbare Risiken gibt. Stellen Sie sich zum Beispiel vor, dass ein kleines Unternehmen einen Planungsroboter herstellt, der die Lehrer f\u00fcr einen Stundenplan einer Realschule einteilt.<\/p>\n

Wenn der Roboter eine falsche Einsch\u00e4tzung trifft, indem er beispielsweise zu viele komplizierte F\u00e4cher nacheinander f\u00fcr eine bestimmte Klasse anordnet und auch einfache Stunden wie Sport, Musik und Zeichnen nacheinander anordnet, ist das keine Katastrophe. Die Schule kann das leicht \u00e4ndern, ohne dass Sch\u00fcler oder Lehrer Schaden nehmen. Diese Art von KI sollte nicht auf Sicherheitsrisiken \u00fcberpr\u00fcft werden m\u00fcssen, bevor der Hersteller sie verkauft.<\/p>\n

Lesen Sie auch: EU-Kommissar Vestager wird 2020 eine neue KI-Gesetzgebung vorlegen<\/a><\/strong><\/p>\n

Wenn aber die KI eines selbstfahrenden Autos w\u00e4hrend der Fahrt die falsche Entscheidung trifft – oder die KI medizinischer Ger\u00e4te w\u00e4hrend der Operation nicht die richtige Entscheidung trifft – und am Ende jemand stirbt, dann ist nach Ansicht der Autoren des Wei\u00dfbuchs nicht klar, von wem man eine Entsch\u00e4digung fordern kann. Schlie\u00dflich ist es die KI, die eine Entscheidung trifft, nicht der Erfinder der KI.<\/p>\n

Risikobereiche Gesundheitswesen und Verkehr<\/h3>\n

Daher wird f\u00fcr die Entwicklung und Anwendung der KI in Bereichen, in denen potenzielle Risiken bestehen, wie z.B. in der Transportindustrie und im Gesundheitswesen, eine Liste von Kategorien erstellt, die \u00fcberwacht werden m\u00fcssen. Diese wird regelm\u00e4\u00dfig \u00fcberpr\u00fcft werden. Auch die in diesen Kategorien auf den Markt gebrachte KI selbst wird regelm\u00e4\u00dfig \u00fcberpr\u00fcft werden m\u00fcssen, da sie h\u00e4ufig aktualisiert wird.<\/p>\n

Das Wei\u00dfbuch befasst sich mit vielen Aspekten der KI, die derzeit nicht geregelt sind. Zum einen besteht ein Mangel an Transparenz. Jemand, der durch die Funktionsweise einer k\u00fcnstlichen Intelligenz bel\u00e4stigt oder beeintr\u00e4chtigt wird und daf\u00fcr bei den Gerichten Rechtsmittel einlegen m\u00f6chte, wird nur dann Beweise bekommen k\u00f6nnen, wenn der Eigent\u00fcmer der k\u00fcnstlichen Intelligenz diese zur Verf\u00fcgung stellt. Es gibt derzeit keine klaren Regelungen, mit denen die B\u00fcrger diese Informationen rechtlich absichern k\u00f6nnen. Das sollte in Zukunft der Fall sein. Alle Informationen, die f\u00fcr den Betrieb der KI – an dem manchmal mehrere Anbieter beteiligt sind – verwendet wurden, m\u00fcssen erhalten bleiben.<\/p>\n

Dar\u00fcber hinaus ist unklar, wer genau f\u00fcr potenziell sch\u00e4dliche Auswirkungen der KI auf die Menschen verantwortlich ist. Der Entwickler stellt das Grundprodukt her, aber der Benutzer schult den Roboter auch nachtr\u00e4glich. Es muss auch klar werden, wie damit umgegangen werden soll.<\/p>\n

Debatte um Gesichtserkennung<\/h3>\n

Ein Thema, das in der Europ\u00e4ischen Union problematisch ist, ist auch Gegenstand einer gro\u00dfen Debatte \u00fcber die Anwendung von KI, die ferngesteuert biometrische Merkmale verwendet. Zum Beispiel die Gesichtserkennung. In dem Dokument hei\u00dft es, dass diese nur zul\u00e4ssig sei, wenn es einem bestimmten, entscheidenden Zweck, z.B. der Sicherheit, dient. Laut der Europ\u00e4ischen Kommission sollte die KI nicht dazu verwendet werden, um B\u00fcrger mit einer Kamera anhand ihres Gesichts zu identifizieren, die bei Rot \u00fcber eine Stra\u00dfe gehen. Das geschieht in China. Dort wird ein Fu\u00dfg\u00e4nger, der eine Ampel ignoriert, automatisch mit einem Bu\u00dfgeld belegt, wenn die KI-Kamera ihn identifiziert und den Versto\u00df aufzeichnet.<\/p>\n

Lesen Sie auch: Europa muss in eine Drehscheibe f\u00fcr kollaborative Roboter in KMU investieren<\/a><\/p>\n

Bereits die vorgeschlagenen rechtlichen Beschr\u00e4nkungen der Anwendung von KI wurden in verschiedenen Medien kritisiert, weil sie die Entwicklung der KI in der EU verz\u00f6gern. Insbesondere im Vergleich zu den USA und China. Au\u00dferdem w\u00fcrde die Technologie immer noch in die EU gelangen, aber eher \u00fcber chinesische als \u00fcber europ\u00e4ische Unternehmen.<\/p>\n

Neue europ\u00e4ische Gesetzgebung f\u00fcr KI in Vorbereitung<\/h3>\n

Dieses Wei\u00dfbuch f\u00fcr die Entwicklung und Umsetzung der KI ist eigentlich ein Startdokument der Europ\u00e4ischen Kommission. Es dient als Grundlage f\u00fcr die Ausarbeitung eines Gesetzes oder einer Gesetzes\u00e4nderung. Diese werden von den nationalen Regierungen, Parlamenten und dem Europ\u00e4ischen Parlament verabschiedet. (Noch ist nicht entschieden, welches von beiden es sein wird).<\/p>\n

Wollen Sie mitreden?<\/h3>\n

Interessenvertreter sowie Verbraucherorganisationen, Universit\u00e4ten und Unternehmen k\u00f6nnen der Europ\u00e4ischen Kommission Vorschl\u00e4ge unterbreiten. Sie haben bis zum 19. Mai Zeit, dies zu tun, um auf die vorgeschlagene Gesetzgebung bez\u00fcglich der KI einen gewissen Einfluss zu nehmen.<\/p>\n","protected":false},"excerpt":{"rendered":"

Die Europ\u00e4ische Kommission will eine Liste f\u00fcr extrem risikoreiche Anwendungen der k\u00fcnstlichen Intelligenz (KI) erstellen. Zum Beispiel solche, die in der medizinischen Versorgung oder in selbstfahrenden Autos verwendet werden, die eine Sicherheitspr\u00fcfung bestehen m\u00fcssen, bevor sie auf den Markt kommen d\u00fcrfen. Das ist im sogenannten Wei\u00dfbuch \u00fcber k\u00fcnstliche Intelligenz \u201eA European approach to excellence and […]<\/p>\n","protected":false},"author":1743,"featured_media":520102,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"advgb_blocks_editor_width":"","advgb_blocks_columns_visual_guide":"","footnotes":""},"categories":[36843],"tags":[33429,47859,30276,47862],"location":[],"article_type":[],"serie":[],"archives":[],"internal_archives":[],"reboot-archive":[],"class_list":["post-210793","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-digital-de-de","tag-eu-de-de","tag-europaeische-kommission-de","tag-ki-de","tag-weissbuch-de"],"blocksy_meta":[],"acf":{"subtitle":"","text_display_homepage":false},"author_meta":{"display_name":"Lucette Mascini","author_link":"https:\/\/ioplus.nl\/archive\/author\/lucette-mascini\/"},"featured_img":"https:\/\/ioplus.nl\/archive\/wp-content\/uploads\/2020\/02\/Press-Image-Microsure-MUSA-Robot-scaled-300x211.jpg","coauthors":[],"tax_additional":{"categories":{"linked":["Digital<\/a>"],"unlinked":["Digital<\/span>"]},"tags":{"linked":["EU<\/a>","Europ\u00e4ische Kommission<\/a>","KI<\/a>","Wei\u00dfbuch<\/a>"],"unlinked":["EU<\/span>","Europ\u00e4ische Kommission<\/span>","KI<\/span>","Wei\u00dfbuch<\/span>"]}},"comment_count":"0","relative_dates":{"created":"Posted 6 years ago","modified":"Updated 6 years ago"},"absolute_dates":{"created":"Posted on February 27, 2020","modified":"Updated on February 27, 2020"},"absolute_dates_time":{"created":"Posted on February 27, 2020 11:40 am","modified":"Updated on February 27, 2020 11:40 am"},"featured_img_caption":"","series_order":"","_links":{"self":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts\/210793","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/users\/1743"}],"replies":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/comments?post=210793"}],"version-history":[{"count":0,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/posts\/210793\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/media\/520102"}],"wp:attachment":[{"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/media?parent=210793"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/categories?post=210793"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/tags?post=210793"},{"taxonomy":"location","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/location?post=210793"},{"taxonomy":"article_type","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/article_type?post=210793"},{"taxonomy":"serie","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/serie?post=210793"},{"taxonomy":"archives","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/archives?post=210793"},{"taxonomy":"internal_archives","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/internal_archives?post=210793"},{"taxonomy":"reboot-archive","embeddable":true,"href":"https:\/\/ioplus.nl\/archive\/wp-json\/wp\/v2\/reboot-archive?post=210793"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}