Sprungnavigation

  1. Zur Volltextsuche springen
  2. Zum Inhalt springen
  3. Zur Hauptnavigation springen
  4. Zur Servicenavigation springen
Seite: https://www.hochschule-ruhr-west.de//forschung/forschungsschwerpunkte/kuenstliche-intelligenz-aus-oekonomischer-perspektive/newsletter-regulierung-und-ki/
Datum: 19.06.2021, 00:49Uhr

Wirtschaftswandel durch Künstliche Intelligenz

Mai 2021

Sei es der Spamfilter in unserem Mail-Postfach, der Online-Kartendienst in unserem Handy oder der Vorschlag, welches Lied wir uns als nächstes anhören könnten: KI ist überall und kontrolliert unser Leben – doch haben wir die KI auch unter Kontrolle?

Im Mittelpunkt dieses Newsletters stehen der neue EU-Regulierungsvorschlag zur KI und soziale Roboter. Über ein Projekt zu diesen berichten vier Wissenschaftlerinnen im Interview.

Unser Inhalt heute:
KI unter Kontrolle: Der Regulierungsvorschlag der EU-Kommission.
Have your say: Wie Sie sich am Konsultationsprozess zur KI-Regulierung beteiligen können.
Auch bei KI gilt: Verbraucherschutz beginnt beim Wettbewerb. Einschätzung zu dem KI-Regulierungsvorschlag aus ökonomischer Perspektive.
Was sagen die anderen? Erste Reaktionen zum KI-Regulierungsvorschlag der verschiedenen Interessensgruppen.
KI an der HRW: Soziale Roboter im öffentlichen Raum - Interview mit Simone Roth, Sabrina C. Eimler, Aysegül Dogangün und Carolin Straßmann, HRW.
Auf einen Blick: Die wichtigsten Fragen zum EU-Regulierungsentwurf im Anhang.


KI unter Kontrolle

 

Warum ist die staatliche Regulierung von KI überhaupt wichtig?

Weil KI das Zeug hat, die Beziehungen zwischen Staat und Bürgern, zwischen Unternehmen und Kundinnen und Kunden grundlegend zu ändern.

Genau das ist heute schon Realität.

Der China Citizen Score sorgt für die Überwachung und staatliche Kontrolle der Bürger. Jeder Schritt wird genau beobachtet, jeder Klick kritisch überprüft, jede Handlung mithilfe von KI mit Punkten bewertet. Hat ein Bürger viele Punkte, so darf er ein Luxushotel beziehen oder einen Kredit erhalten, hat er wiederum wenige Punkte, so drohen ihm Reisebeschränkungen, eine verringerte Internetgeschwindigkeit oder höhere Steuern [1][2].

Und wie kommt diese Punktzahl zustande? So genau weiß das niemand, doch es wird vermutet, dass sich bereits das Kaufen von alkoholischen Getränken negativ oder von Windeln positiv in der Bepunktung der Bürger niederschlägt [3].

Doch wie sieht das Ganze in Europa aus?

Menschenrechte sind wichtiger als das technisch Machbare. Und das soll für alle Mitgliedsstaaten festgeschrieben werden.

Deshalb hat die EU die Regulierungsmaschine angeworfen. Europa ist nicht schnell, aber gründlich. Vierzehn Monate nach einem Weißbuch [4] zur KI kam jetzt der Regulierungsentwurf [5] der EU-Kommission. Zwischendurch gab es ein Konsultationsverfahren, in das 408 Positionspapiere eingeflossen sind. Vom Industrie- bis zum Verbraucherschutzverband waren alle dabei.

Auch in Deutschland wurden die Experten aktiv: Eine vom Bundestag eingesetzte Enquete-Kommission, die sich seit September 2018 mit KI beschäftigt, fordert die Schaffung von mehr Nachvollziehbarkeit und Transparenz [6]. Stimmen, die Verbote für eine Totalüberwachung fordern, werden lauter [7][8].

Der vorgeschlagene Rechtsrahmen der EU-Kommission folgt einem „risikobasierten Ansatz“. Dies bedeutet, dass KI-Systeme in Risikoklassen eingeordnet werden – und den Anbietern je nach Risiko Pflichten auferlegt werden. Um die Regulierung durchzusetzen, sollen nationale Marktüberwachungsbehörden und ein europäischer KI-Ausschuss beteiligt werden [9]. Die Tabelle im Anhang beantwortet die wichtigsten Fragen zu dem Regulierungsentwurf, der aus 85 Artikeln und mehreren Anhängen besteht.

Laut EU-Kommissionsvizepräsidentin Margrethe Vestager [10] habe die EU den Anspruch, eine zweite Welle der Digitalisierung anzuführen, indem man in Sachen KI die USA und China abhänge. Die Idee hinter der Regulierung sei, das Vertrauen der Menschen in diese neue Technologie zu gewinnen. Die Hoffnung der EU ist es, eine strategische Führungsrolle in der KI-Welt zu erreichen. Die europäische Zusammenarbeit soll ausgebaut und die nationalen KI-Strategien unterstützt werden [9].


Have your say


Bis zum 26. Juli 2021 können Sie der EU-Kommission im Konsultationsverfahren ihre Meinung zu dem Regulierungsentwurf schreiben. Von einer kurzen Textnachricht bis zum kompletten Positionspapier wird alles gelesen und ausgewertet.

Unter diesem Link finden Sie auch den Regulierungsvorschlag der EU-Kommission und weitere begleitende Dokumente.

 


Auch bei KI gilt: Verbraucherschutz beginnt beim Wettbewerb

 

Ein Kommentar zu den EU-Regulierungsvorschlägen aus ökonomischer Perspektive von Prof. Dr. Michael Vogelsang, Volkswirt an der Hochschule Ruhr West, Mülheim a.d. Ruhr. Die in diesem Text wiedergegebene Meinung ist die persönliche Meinung des Autors. 

Ziel der EU-Kommission ist es, dass Vertrauen der Menschen in KI-Anwendungen zu stärken. Manipulationen und Diskriminierung bei automatisierten Entscheidungen sollen vermieden werden. Der Regulierungsvorschlag der EU folgt sinnvollen Prinzipien. Dazu gehören

  • der Grundsatz, dass die Menschenrechte Vorrang vor allem anderen haben sollen, 
  • die Einteilung von KI Anwendungen in Risikoklassen und
  • die Kombination aus unternehmenseigener Qualitätssicherung und behördlichem „post market monitoring“, also den Eingriffsmöglichkeiten nach Markteinführung.

Allerdings wird aus guten Prinzipien nicht automatisch ein guter Regulierungsvorschlag. Denn es besteht Klärungsbedarf, zum Beispiel bei der Definition von KI. Sollen wirklich alle statistischen Anwendungen dazu zählen? Und ist es sinnvoll, die Entwickler der Algorithmen und die Unternehmen, die diese einsetzen, als "Provider" in einen Topf zu werfen? 

Aus ökonomischer Perspektive bleibt die Frage offen, wie sich die Regulierung auf die KI-Landschaft auswirkt, und ob diese Effekte gewünscht sind. Regulierung ist nie neutral.

Auch KI-Ökosysteme sind Plattformmärkte. Und nicht erst seit Google und Facebook ist bekannt, wie schnell und umfassend Konzentrationsprozesse auf diesen ablaufen. Aus ökonomischer Perspektive sind die Grundlagen für einen solchen Prozess auch bei KI gegeben: Das Netzwerk (Cloud Computing), die Skalen- und Lerneffekte (Transfer Learning, Machine Programming), die Verbundvorteile (Natural Language Processing) sind vorhanden bzw. werden gerade entwickelt. Mit den beiden frei verfügbaren KI-Bibliotheken Tensorflow (von Google) und Pytorch (von Facebook) sind die beiden Digitalkonzerne schon heute in vielen KI-Anwendungen in Europa vertreten.

Wie wichtig Wettbewerb ist, zeigt ein ökonomisches Gedankenexperiment: Angenommen, ein monopolistischer Dienstleister würde an alle Banken nicht nur Bonitätsdaten liefern, sondern auch den Algorithmus, der über den Kreditantrag entscheidet und die Konditionen berechnet. Selbstverständlich würde dieser Dienstleister alle Anforderungen an repräsentative und relevante Daten, an die Risiko- und Qualitätsmanagementsysteme nach der EU-Richtlinie erfüllen. Aber die Konsequenz wäre: Wer bei der einen Bank keinen Kredit erhält, bekommt auch bei der anderen Bank keinen. Mit der diskriminierungsfreien Kreditablehnung ist den Betroffenen nicht geholfen, wenn nicht gleichzeitig Wettbewerb herrscht. Deshalb fängt der Schutz des Verbrauchers vor automatisierten Entscheidungen beim Wettbewerb der Systeme an. Diesem Gedanken wird in dem Regulierungsentwurf zu wenig Beachtung geschenkt.


Was sagen die anderen?

 

Die verschiedenen Lobbygruppen reagieren naturgemäß sehr unterschiedlich auf die Vorschläge. In den ersten Reaktionen wird von fast jedem das grundsätzliche Vorhaben zur KI-Regulierung begrüßt.

Den Verbraucher- und Datenschutzverbänden geht der KI-Regulierungsvorschlag nicht weit genug. Sie kritisieren zu viele Schlupflöcher für KI-Systeme mit unannehmbaren Risiko. Diese sollten eigentlich verboten werden. Als Beispiel wird die biometrische Identifikation mittels KI genannt [11]. Weitere angeführte Kritikpunkte sind die unklaren Kriterien zur Risikoeinstufung zukünftiger KI-Produkte und die Selbstbewertung und -kontrolle durch die anwendenden Unternehmen [11][12]

Auf der Seite der Wirtschaftsverbände herrscht naturgemäß eine andere Sichtweise vor. Der BDI kritisiert, dass die Definition von Hoch-Risiko-KI-Systemen zu weit gefasst sei. Der Industrieverband fordert, dass Anwendungen in der Industrie von dem Regulierungsentwurf ausgenommen werden müssten, damit nicht die Innovationskraft geschwächt werde [13].

In Bezug auf Innovationen hebt die European Digital SME Alliance die „regulatory sandboxes“ hervor, da diese den KI-Einsatz in SMEs und damit die Innovationskraft in Europa fördern würden. Die European Digital SME Alliance merkt aber auch kritisch an, dass für Strafverfolgungszwecke weiterhin KI-Systeme mit biometrischer Identifikation eingesetzt werden dürften [14].

Das Konsultationsverfahren läuft noch bis zum 26. Juli 2021 (s. Link). Bís dahin werden sicherlich noch weitere Stellungnahmen zu dem Aufschlag der EU veröffentlicht werden.


KI an der HRW

 

Die Hochschule Ruhr West und der Forschungsschwerpunkt „KI aus ökonomischer Perspektive“ begleiten die KI-Entwicklung. Dazu tragen viele Kolleginnen und Kollegen bei.

Heute wird im Interview ein konkretes, interdisziplinäres Forschungsprojekt vorgestellt. In dem Projekt hat es sich ein Team der Hochschule Ruhr West zur Aufgabe gemacht, den Einsatz von robotischen Systemen in öffentlichen Einrichtungen gemeinsam zu erforschen. Dieses besteht aus:

Prof. Dr. rer. pol. Simone Roth

ist Expertin für alle Fragen der Markenkommunikation. Ihre Lehrveranstaltungen drehen sich rund um das Internationale Marketing. Dabei hat sie zuletzt einen Fokus auf Social Media Anwendungen gelegt.

Prof. Dr. phil. Sabrina C. Eimler

beschäftigt sich mit anwendungsorientierten, psychologischen Forschungs- und Lehrprojekten in der Mensch-Technik-Interaktion.

Prof. Dr.-Ing. Aysegül Dogangün

beschäftigt sich als Professorin für menschzentrierte Technikentwicklung und Expertin für Mensch-Technik-Interaktion mit adaptiven, lernenden Systemen.

Dr. phil. Carolin Straßmann

forscht seit Jahren mit robotischen Assistenzsystemen und beschäftigt sich mit der Wirkung und Gestaltung sozialer Roboter.

Die Zusammenarbeit der vier Wissenschaftlerinnen hat bereits zu einem ersten Erfolg geführt: Ihre Projektskizze wurde im Rahmen der BMBF-Ausschreibung „Roboter für Assistenzfunktionen: Interaktion in der Praxis“ als eines von 15 Projekten (bei 60 Einreichungen) ausgewählt. Jetzt geht es in die zweite Runde. Bei überzeugender Konzeption gewährt das BMBF eine Fördersumme von bis zu 4 Mio. EUR für den Aufbau eines einmaligen Kompetenzzentrums für soziale Roboter innerhalb des Ruhrgebiets. Damit sollen soziale Roboter in öffentlichen Einrichtungen eingeführt und ihr Einsatz unterstützt werden. 


Redaktion: Was sind denn soziale Roboter?

Carolin Straßmann: Als soziale Roboter werden Roboter bezeichnet, die mit Menschen interagieren und kommunizieren können. Dies bedeutet, dass die Roboter meistens menschliche Sprache und Verhaltensweisen verstehen und wiederum auch benutzen können. Soziale Roboter können sowohl mit anderen Robotern als auch mit den Menschen kommunizieren und werden meist als lernfähig betrachtet. Sie nehmen ihre Umwelt wahr und können darauf reagieren.
In meinen Augen wird ein Roboter vor allem durch den Menschen und seine Reaktion auf den Roboter sozial. Zahlreiche wissenschaftliche Befunde zeigen, dass Menschen ähnliche soziale Verhaltensweisen gegenüber Robotern zeigen, wie sie es gegenüber anderen Menschen tun würden. Beispielsweise zeigen Menschen Robotern gegenüber empathischen Reaktionen oder sind ihnen gegenüber höflich.

Sabrina Eimler: In der Psychologie diskutieren wir oft über den Unterschied von Eindruck und Ausdruck. In der Systemgestaltung machen wir uns manchmal den Umstand zunutze, dass Menschen Stereotypen auch auf künstliche Entitäten, wie zum Beispiel Roboter, anwenden, und sie hierdurch, ohne dass der Roboter tatsächlich gewisse Fähigkeiten oder Eigenschaften besitzt, Verhalten und Muster in ihn hineininterpretieren.


Redaktion: Funktionieren die Emotionen in der Interaktion nicht auch schon in Gegenrichtung? In dem Sinne, dass Roboter heute schon auf Emotionen reagieren und zum Beispiel Mitgefühl zeigen können.

Ayşegül Doğangün:
 Aus technischer Sicht gibt es durchaus Ansätze, um Emotionen von Nutzenden während der Interaktion zu erfassen, z. B. anhand der Verarbeitung von Audiosignalen (Stimmanalyse) oder (Thermo-)Bilddaten. So kann für eine erkannte Emotion die Interaktion adaptiert werden.

Carolin Straßmann: Allgemein sind Emotionen nicht nur Ausdrucksweisen, mit denen Menschen einen bestimmten Gefühlszustand wiedergeben, sondern auch Mittel der Kommunikation. Emotionen, die zum Beispiel durch nonverbale Verhaltensweisen ausgedrückt werden, helfen dabei das Gegenüber besser zu verstehen. Selbst wenn Roboter nicht im echten Sinne Mitgefühl haben können, kann es unter bestimmten Umständen für die Nutzerinnen und Nutzer bei der Interaktion mit Robotern hilfreich sein, dass der Roboter als empathisch wahrgenommen wird oder ihm bestimmte emotionale Zustände zugeschrieben werden.


Redaktion: Wie könnte ein sozialer Roboter denn eingesetzt werden? Vielleicht könnten Sie uns ein Beispiel nennen. Und wieso interessiert Sie besonders der Einsatz in öffentlichen Einrichtungen?

Simone Roth:
 Aufgrund ihrer Erscheinungsformen, der daraus resultierenden Neugier und den menschenähnlichen sozialen Reaktionen passen sie perfekt in den öffentlichen Raum. Für uns war es wichtig, eine Anwendung im Hinblick auf eine heterogene Zielgruppe zu erforschen. Dies gilt für öffentliche Räume wie Stadtbibliotheken, bei denen ein sozialer Roboter beispielsweise bei der  Literaturrecherche oder bei Ausleihen und Rückgaben assistieren kann.

Redaktion: Das würde bestimmt auf Gegenliebe bei den Bibliotheksnutzern und -nutzerinnen stoßen. Wo liegen denn die Probleme?

Ayşegül Dogangün: Auf der einen Seite spielt natürlich die teils fehlende technische Reife für den Einsatz im Feld eine wichtige Rolle. Auf der anderen Seite liegt es unter anderem daran, dass die Gestaltung und der Einsatz von sozialen Robotern immer mit einer hohen sozialen Verantwortung einhergehen. Gerade im Einsatz von Künstlicher Intelligenz in sozialen Robotern gibt es Herausforderungen hinsichtlich der Akzeptanz und des Vertrauens. Diese können zum Beispiel auf fehlendes Verständnis von Handlungen oder fehlendes Kontrollgefühl - beispielsweise im Umgang mit erfassten Daten - zurückgeführt werden.


Redaktion: Sie bilden ein echtes fachübergreifendes Team. Was lernen Sie voneinander?

Ayşegül Dogangün: Während wir auf der einen Seite gegenseitig unser Methodenportfolio erweitern, lernen wir auf der anderen Seite unterschiedliche Perspektiven auf gleiche Untersuchungsgegenstände kennen – dies gibt einen besonderen Weitblick.

Simone Roth: Genau. So entwickeln wir ein gemeinsames Verständnis aus verschiedenen Blickwinkeln auf Themengebiete. Aus der Perspektive des Konsumentenverhaltens lassen sich Rückschlüsse für zum Beispiel die Gestaltung des Erstkontakts zwischen Menschen und Robotern ziehen. Und die Mensch-Technik-Interaktion aus dem Blickwinkel der Kolleginnen aus der Fachdisziplin ist selbstredend zentral für das Thema des Projekts.

Redaktion: Klappt das? Ein Begriff kann doch von Wissenschaftlerinnen aus unterschiedlichen Fachgebieten auch vollkommen unterschiedlich verstanden und interpretiert werden.

Sabrina Eimler: Wir haben bereits langjährige Erfahrung in der Bearbeitung interdisziplinärer Forschung- und Lehrprojekte und fühlen uns damit sehr wohl. Bereits seit dem Studium sind viele im Team interdisziplinär aufgestellt, so dass eine “Übersetzung” vielleicht leichter gelingt als in anderen Teams. Wir begreifen das eher als Chance und nicht als Hürde oder Risiko. Es regt unsere Kreativität an, Perspektiven auszutauschen, auch mal uneinig zu sein und wir sind davon überzeugt, dass es für Innovation Vielfalt braucht. Vielfalt der Menschen, Ideen, Disziplinen, und vieles mehr. Die HRW und das Ruhrgebiet bieten hierfür das ideale Umfeld. 


Redaktion: Welches sind die nächsten Schritte im Projekt?

Carolin Straßmann: Aktuell führen wir Workshops durch, um die Bedarfe und Anwendungsszenarien der Städte, Bürgerinnen und Bürger zu erfassen. Daneben suchen wir nach weiteren geeigneten Partnerinnen und Partnern aus ganz verschiedenen Bereichen, zum Beispiel für die technische Umsetzung, die ethische und juristische Bewertung und den Einsatz der Systeme. Hierzu sammeln wir Absichtserklärungen, auch von Startups.

Simone Roth: Dabei liegt ein wichtiger Aspekt des Forschungsprojektes in der wirtschaftlichen Anschlussperspektive in Form eines Ecosystems. Dazu wird das Kompetenzzentrum für soziale Roboter dann in ein plattform-basiertes Geschäftsmodell überführt. Die erforschten Metriken und Erkenntnisse dieses Zentrums sollen dann allgemein nutzbar werden, um beispielsweise Unternehmen die Möglichkeit zu geben, Roboter zu mieten und zu vermieten. Dies kann ein weiterer wichtiger Schritt sein, um die gewonnenen Erkenntnisse und Kompetenzen in Zusammenarbeit mit der HRW auf nationaler Ebene zu etablieren.

Sabrina Eimler: Zur Unterstützung in der Antragsphase konnten wir Julia Hermann gewinnen, die uns im Antragsmanagement mit ihrer umfangreichen Expertise in der menschzentrierten Technikentwicklung unterstützt. Durch ihre langjährige Erfahrung in der kontinuierlichen Einbeziehung künftiger Nutzerinnen und Nutzer in Forschungs- und Entwicklungsvorhaben, hoffen wir der Diversität des Ruhrgebiets gerecht zu werden. Mit unserem Projekt möchten wir einen echten Mehrwert auf allen Seiten stiftet.

Redaktion: Herzlichen Dank für die Einblicke – und viel Erfolg auf den weiteren Etappen des Projekts.


Auf einen Blick

 

Die wichtigsten Fragen des EU-Regulierungsentwurfes und ihre Antworten [5].

Was regelt er? Vorgaben für die Entwicklung und den Einsatz von KI-Systemen.
Welche Risikoklassen gibt es? Drei Risikoklassen: Nicht akzeptables Risiko, hohes Risiko und alle anderen.
Was ist verboten? KI-Systeme, die aus Sicht der Kommission ein unakzeptables Risiko darstellen. Dazu gehören Social Scoring durch staatliche Behörden ebenso wie Systeme, die Personen manipulieren, um sich oder anderen Schaden zuzufügen.
Was sind Hochrisiko-Anwendungen? Alles, was Gesundheit, Sicherheit oder die Lebensläufe einzelner beeinflusst. Beispiele: KI-Anwendungen für Wasser- oder Kraftwerke und Entscheidungen über Kredite oder Jobs.
Gibt es weitere, spezielle Regelungen? Ja, zum Beispiel müssen automatisierte Chat-Bots und Deep Fakes gekennzeichnet werden, auch wenn diese nicht hochriskant sind. 
Was müssen Unternehmen erledigen? Das ist abhängig von der Risikoklasse. Anbieter von Hoch-Risiko-Systemen müssen u.a. ein Risiko- und Qualitätsmanagement, Dokumentations- und Informationspflichten, ein Post-Market-Monitoring, Human Oversight, besondere Anforderungen an Daten erfüllen.
Was erledigen Dritte? Wenn die Sicherheit eines Produkts von einer KI abhängig ist, muss diese geprüft werden (Konformitätsbeurteilung).
Was erledigen Behörden? Die Einhaltung der Vorschriften. Die Marktüberwachungsbehörde darf die Trainings-, Validierungs- und Testdaten und ggfs. den Quellcode einsehen.
Welche Strafen gibt es? Je nach Vergehen sind bis zu 6% des weltweiten Jahresumsatzes möglich.
Wie sollen Innovationen gefördert werden? In einer „regulatory sandbox“ soll unter behördlicher Aufsicht die Entwicklung von KI-Systemen erleichtert werden. Unabhängig vom Regulierungsvorschlag hat die EU vor, KI-Entwicklung finanziell zu fördern (Forschungsförderung).
Wie geht es weiter? Momentan erarbeiten die EU-Mitgliedsstaaten ihre Stellungnahmen. Bis sich die Mitgliedsstaaten, das EU-Parlament und die Kommission geeignet haben, kann auch schnell ein Jahr vergehen.

 


Vielen herzlichen Dank für Ihr Interesse und bis zur nächsten Ausgabe im Sommer.

Für Feedback erreichen Sie uns per Mail unter ki-oekonom hs-ruhrwest "«@&.de

Forschungsschwerpunkt "KI aus ökonomischer Perspektive"


Hochschule Ruhr West
Duisburger Straße 100
45479 Mülheim an der Ruhr
Deutschland

+49 (0)208 88254-0
info@hs-ruhrwest.de
hochschule-ruhr-west.de

Vollständiges Impressum:
hochschule-ruhr-west.de/metanavigation/impressum


Angaben nach § 5 Absatz 1 Telemediengesetz (TMG)
Register: Die Hochschule Ruhr West (HRW) ist gem. § 2 Absatz 1 Satz 1 i. V. m. § 1 Absatz 2 Satz 2 Nr. 14 des Gesetzes über die Hochschulen des Landes Nordrhein-Westfalen (HG NRW) eine vom Land getragene, rechtsfähige Körperschaft des öffentlichen Rechts.
Tax ID: DE 269 193 645

Redaktionell verantwortlich gem. § 18 Absatz 2 des Medienstaatsvertrags (MStV):
Prof. Dr. Isabel Lausberg
Prof. Dr. Michael Vogelsang
Joshua Zander
Leon Schmitz
Forschungsschwerpunkt "KI aus ökonomischer Perspekitve"
Telefon: 0208 882 54-100
ki-oekonom@hs-ruhrwest.de

Bildnachweise:
Überwachungskameras: Scott Webb / Pexels
Europa-Geldschein: Karolina Grabowska / Pexels
Holzhammer: Sora Shimazaki / Pexels
Programmcode: Negative Space / Pexels
Simone Roth: Manuel Debus
Sabrina C. Eimler: HRW
Aysegül Dogangün: HRW
Carolin Straßmann: HRW
Stehender Roboter: Simone Roth/Carolin Straßmann
Sitzender Roboter: Simone Roth/Carolin Straßmann


Einzelnachweise:

[1] Krempl, Stefan (2021): „Citizen Score: Chinas soziales Kreditsystem nicht mehr im Plan“, heise.de/news/Citizen-Score-Chinas-soziales-Kreditsystem-nicht-mehr-im-Plan-5028166.html

[2] Meissner, Mirjam (2017): „Chinas gesellschaftliches Bonitätssystem“, in: MERICS China Monitor Nr. 39, S. 4, merics.org/sites/default/files/2020-05/Chinas%20gesellschaftliches%20Bonit%C3%A4tssystem.pdf

[3] Ost, Hannah (2020): „China’s ‘Social Credit System’ is Too Close to Home“, medium.com/@hannahost/chinas-social-credit-system-is-too-close-to-home-6775e186b131

[4] Europäische Kommission (2020): „Weissbuch. Zur Künstlichen Intelligenz - ein europäisches Konzept für Exzellenz und Vertrauen“, ec.europa.eu/info/sites/default/files/commission-white-paper-artificial-intelligence-feb2020_de.pdf

[5] Europäische Kommission (2021): „Proposal for a regulation of the european parliament and of the council. Laying down harmonised rules on artificial intelligence (artificial intelligence act) and amending certain union legislative acts“, digital-strategy.ec.europa.eu/en/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence

[6] Deutscher Bundestag (2020): „Bericht der Enquete-Kommission Künstliche Intelligenz“, S. 42, dip21.bundestag.de/dip21/btd/19/237/1923700.pdf

[7] Tagesspiegel (Hrsg.) (2020): „Notfalls brauchen wir Anwendungsverbote“, background.tagesspiegel.de/digitalisierung/notfalls-brauchen-wir-anwendungsverbote?

[8] European Digital Rigths (2021): „Civil society calls for AI red lines in the European Union’s Artificial Intelligence proposal“, edri.org/our-work/civil-society-call-for-ai-red-lines-in-the-european-unions-artificial-intelligence-proposal/

[9] Europäische Kommission (2021): „Ein Europa für das digitale Zeitalter: Kommission schlägt neue Vorschriften und Maßnahmen für Exzellenz und Vertrauen im Bereich der künstliche Intelligenz vor“, ec.europa.eu/commission/presscorner/detail/de/ip_21_1682

[10] Europäische Kommission (2021): Speech by Executive Vice-President Vestager at the press conference on fostering a European approach to Artificial Intelligence, ec.europa.eu/commission/presscorner/detail/de/speech_21_1866

[11] AlgorithmWatch (2021): AlgorithmWatch’s response to the European Commission’s proposed regulation on Artificial Intelligence – A major step with major gaps, URL: algorithmwatch.org/en/response-to-eu-ai-regulation-proposal-2021/

[12] Verbraucherzentrale Bundesverband (2021): Enttäuschend: Vorschläge für Regelung von Künstlicher Intelligenz schützen Verbraucher nur punktuell, vzbv.de/pressemitteilungen/enttaeuschend-vorschlaege-fuer-regelung-von-kuenstlicher-intelligenz-schuetzen

[13] BDI (2021): KI-Entwurf entspricht von europäischen Werten geprägtem Rechtsrahmen, bdi.eu/themenfelder/digitalisierung/kuenstliche-intelligenz/#/artikel/news/gesetzesvorschlag-der-eu-kommission-zum-umgang-mit-kuenstlicher-intelligenz-ki/

[14] European Digital SME Alliance (2021): Artificial Intelligence Act: DIGITAL SME welcomes risk-based approach, encourages even stronger focus on innovation, digitalsme.eu/artificial-intelligence-act/