Der HRW Podcast der Wissenschaft. In dieser Folge: Digitale Spaltung – wie Roboter uns benachteiligen können. Hallo und herzlich willkommen beim HRW Podcast der Wissenschaft. Ich bin Olaf Brinkmann. Schön, dass ihr wieder dabei seid. Bestimmt habt ihr schon mal gehört, dass Medizin lange Zeit häufig nur an Männern erforscht wurde. Für Frauen und Kinder kann das Nachteile haben. Vielleicht erstaunt es euch, wenn ich euch sage: Dasselbe gibt es auch bei Robotersystemen, die uns mehr und mehr im Alltag unterstützen. Wie das kommt, wie wir das bemerken können und was das für Auswirkungen für die einzelne beziehungsweise den einzelnen und auch für die Gesellschaft hat, das weiß mein heutiger Gast. Es ist Prof.in Dr. Carolin Straßmann. Sie gehört an der HRW zum Institut Informatik und hat zu diesem Thema geforscht. Hallo Carolin, schön dass du da bist. Prof.in Dr. Carolin Straßmann: Hallo, schön dass ich hier sein darf. Olaf Brinkmann: Carolin, du weißt ja, wir fangen erst mal an mit einem kleinen Spiel. Dann können dich unsere Gäste auch ein bisschen privat kennenlernen. Ich stelle dir einige Fragen und du musst dich zwischen zwei Antworten entscheiden. Prof.in Dr. Carolin Straßmann: Okay. Olaf Brinkmann: Schokolade oder Kekse? Prof.in Dr. Carolin Straßmann: Am besten Schokolade. Also wahrscheinlich Schokolade. Olaf Brinkmann: Neubau oder Altbau? Prof.in Dr. Carolin Straßmann: Altbau. Olaf Brinkmann: Früh- oder Spätaufsteherin? Prof.in Dr. Carolin Straßmann: Spät. Ich bin eher ein Nachtmensch als morgens. Olaf Brinkmann: Carolin, erzähl mal kurz. Du hast seit März 2024 die Professur für Digitale Infrastruktur sowie Geschäfts- und Prozessmanagement im E-Commerce inne. Was lernen Studierende bei dir? Prof.in Dr. Carolin Straßmann: Also, so lang wie der Titel ist, so vielfältig ist auch das, was Studierende lernen können. Ich würde es zusammenfassend so beschreiben, dass ich verschiedene digitale Infrastrukturen, wie der Titel sagt, in Integration mit dem E-Commerce-Bereich betrachte. Dabei stelle ich vor allem ein menschenzentriertes Vorgehen in den Vordergrund. Beispielsweise beschäftigen wir uns in den Modulen damit, wie man eine Webseite, einen Online-Shop oder gängige Plattformen, die digital sind, gestalten kann. Und zwar so gestalten kann, dass sie den Bedürfnissen der Menschen entsprechen, die sie benutzen sollen. Das geht natürlich über die klassische Webseite hinaus. Wie du in der Moderation schon angeteasert hast, beschäftige ich mich auch viel mit sozialen Robotern und virtuellen Assistenzsystemen, also Sprachassistenten, wie man sie nutzen kann. Dabei geht es darum, dass sie einen gesamtgesellschaftlich guten Einfluss haben und nicht nur zum Kauf anregen, sondern wirklich sinnvoll eingesetzt werden. Olaf Brinkmann: Du hast gerade schon von Robotersystemen gesprochen, an denen du forschst. Kannst du ein paar Beispiele nennen? Wo begegnen mir solche Systeme im Alltag? Prof.in Dr. Carolin Straßmann: Roboter sind natürlich generell erst einmal vielfältig. Ich beschäftige mich mit sogenannten sozialen Robotern oder Service-Robotern. Die stehen meistens in Interaktion mit Menschen im Servicebereich. Normale Roboter sind heute zum Beispiel Staubsaugerroboter oder Rasenmähroboter. Die sind wahrscheinlich in vielen Haushalten schon zu finden. Ansonsten gibt es aber auch immer häufiger Roboter in Geschäften. Beispielsweise Pepper. Das ist ein humanoider Roboter, der ein bisschen menschenähnlich aussieht. Der wird tatsächlich häufiger eingesetzt. Es gibt auch andere Formen von Robotern in Restaurants. Da kennt man es mittlerweile auch schon, dass Roboter das Essen auf einem Tablett bringen. Das sind alles Systeme, die den Service verbessern können, weil wir in vielen Branchen Fachkräftemangel haben. Da können solche Systeme helfen. Olaf Brinkmann: Du sagst, Computer sind nicht neutral. Was meinst du damit genau? Prof.in Dr. Carolin Straßmann: Häufig haben wir die Annahme, dass Technologie neutral ist. Man denkt, Maschinen können nicht beeinflusst werden wie Menschen, die emotional werden oder Vorlieben haben oder manchmal nicht rational handeln. Man denkt daher zuerst, Maschinen seien neutral. Das ist aber nicht so, weil Maschinen von Menschen gemacht sind. In ihnen stecken Daten von Menschen. Dadurch können sich auch Voreingenommenheiten übertragen. Wir nennen das Bias. Das hat verschiedene Grundlagen. Zum Beispiel das Datenset, also die Daten, mit denen eine Maschine trainiert wird. Etwa bei Spracherkennung oder visuellen Erkennungssystemen über Kameras. Dafür braucht man eine große Menge an Daten. In diesen Daten können sich Fehler einschleichen. Schon bei der Auswahl der Daten. Das hängt auch damit zusammen, wer die Entwickler sind. Typischerweise waren das lange Zeit weiße junge Männer. Dadurch fehlen manchmal Merkmale anderer Personengruppen. Außerdem können unbewusste Voreingenommenheiten von Menschen in die Systeme übertragen werden. Diese liegen dann unterschwellig in den Daten. Olaf Brinkmann: Was hat das für Folgen? Wozu kann das führen? Prof.in Dr. Carolin Straßmann: Es kann dazu führen, dass Technologien für viele andere Personen nicht gut funktionieren. Zum Beispiel für Frauen, schwarze Menschen, Kinder oder Menschen mit bestimmten Dialekten. Die Technologie funktioniert dann theoretisch gut, aber nicht für alle. Das hat natürlich große Auswirkungen, je nachdem, welche Technologie eingesetzt wird und wofür man sie braucht. Olaf Brinkmann: Ihr habt auch untersucht, was das mit Menschen macht, wenn Technik bei ihnen scheinbar nicht funktionieren will. Was habt ihr euch da angeschaut? Prof.in Dr. Carolin Straßmann: Wir haben dazu zwei Virtual-Reality-Experimente gemacht. Das waren auch zwei Bachelorarbeiten mit unseren Studierenden. Die Studierenden haben untersucht, was passiert, wenn ein sozialer Roboter bei einer Person gut funktioniert und bei einer anderen nicht. Der Roboter war Pepper, allerdings in virtueller Form. Zwei Personen interagierten gemeinsam mit dem Roboter in einer Bibliothek. Ihre Aufgabe war es, Bücher in verschiedene Kisten zu sortieren. Pepper hat dabei geholfen, indem er gesagt hat, zu welcher Kategorie ein Buch gehört. Dafür musste man das Buch vor Pepper halten. Dann hat Pepper die Kategorie genannt und man konnte das Buch einsortieren. Bei einer Person funktionierte das zu neunzig Prozent gut. Bei der anderen Person funktionierte es in den meisten Fällen nicht. Ein Ergebnis war, dass die Personen, bei denen es nicht funktionierte, sich selbst stärker die Schuld gegeben haben. Sie dachten, sie hätten etwas falsch gemacht. Traurigerweise kam auch heraus, dass die andere Person die Beobachtung gemacht hat und die betroffene Person schlechter bewertet hat. Sie wurde als weniger kompetent eingeschätzt. Das sind erste Forschungsergebnisse. Sie passen aber zu einem größeren Bild. In den meisten Fällen wird nicht erkannt, dass der Roboter das Problem ist. Das ist gesellschaftlich problematisch, weil dann der Person die Schuld gegeben wird, statt der Technologie. Olaf Brinkmann: Unser Podcasttitel heißt Digitale Spaltung. Wir haben schon ein Gefühl dafür bekommen. Was bedeutet diese digitale Spaltung gesellschaftlich? Prof.in Dr. Carolin Straßmann: Das haben wir auch in Fokusgruppen untersucht. Eine häufige Strategie ist, dass Menschen sagen: Dann nutze ich die Technologie eben nicht mehr. Das Problem ist aber, dass wir technologische Systeme nicht mehr aus unserem Alltag wegdenken können. Sie werden immer wichtiger. Wenn bestimmte Gruppen sie nicht nutzen können, schließen wir diese Menschen aus. Beim sogenannten Algorithmic Bias betrifft das oft Gruppen, die ohnehin schon von Diskriminierung betroffen sind. Das ist ein großes Problem für eine inklusive Gesellschaft, weil dadurch eine Kluft zwischen Menschen entsteht. Olaf Brinkmann: Ihr macht auch das Projekt Robots. Da spielt das alles mit hinein. Kannst du kurz erklären, was das Projekt ist? Prof.in Dr. Carolin Straßmann: Das Projekt Robots ist ein Kompetenzzentrum, das vom BMBF gefördert wird. Es läuft noch ungefähr ein Jahr. Wir beschäftigen uns damit, wie wir soziale Roboter bedarfs- und diversitätsgerecht in die Stadtverwaltung der Metropole Ruhr integrieren können. Speziell fokussieren wir uns auf Bibliotheken. Das erklärt auch das Bibliotheksszenario aus dem Experiment. Wir wollen schauen, wie wir mit der Diversität hier im Ruhrgebiet umgehen können und wie die Systeme darauf reagieren. Dabei untersuchen wir, welche Probleme es gibt und was man tun kann, damit wirklich alle Menschen den Roboter nutzen können und keine Ungleichheiten entstehen. Olaf Brinkmann: Ein ganz spannendes Forschungsthema. Carolin, vielen Dank schon mal bis hierher. Jetzt lass uns noch auf den Claim der HRW schauen. Der heißt ja Never Stop Growing. Dafür haben wir im Podcast das Format Never Stop Growing. Ich stelle dir drei Fragen und du antwortest bitte ganz kurz und spontan. Prof.in Dr. Carolin Straßmann: Ja. Olaf Brinkmann: Ihr forscht direkt bei euch in der Region. Wie tragt ihr damit zu Wachstum bei? Prof.in Dr. Carolin Straßmann: Wir sind hier in der Region hoffentlich eine gute Anlaufstelle für Bürgerinnen und Bürger. Sie können die Technologie ausprobieren, neue Ideen entwickeln und vielleicht auch Ideen für eigene Anwendungsfälle, Unternehmen oder Neugründungen bekommen. Olaf Brinkmann: Wann ist Wachstum möglich und wann vielleicht auch nicht? Prof.in Dr. Carolin Straßmann: Anschließend an das, was wir gerade besprochen haben, ist Wachstum für mich immer dann möglich, wenn möglichst viele Personengruppen integriert sind. Wenn Menschen positive Emotionen erleben und keine Erfahrungen von Ausschluss oder negativen Erlebnissen machen. Wenn ich mich ausgeschlossen fühle oder meine Kompetenzen nicht nutzen kann, dann ist Wachstum schwierig. Olaf Brinkmann: Wie schafft die HRW die Rahmenbedingungen für Wachstum? Prof.in Dr. Carolin Straßmann: Die HRW schafft das, indem wir sehr agil und schnell ausprobieren, was gut funktioniert und was nicht. Es können aus verschiedenen Ebenen Ideen entstehen und Projekte ausprobiert werden. Dafür gibt es entsprechende Instrumente. Olaf Brinkmann: Carolin, vielen vielen Dank für das spannende Gespräch. Prof.in Dr. Carolin Straßmann: Dankeschön. Olaf Brinkmann: Zum Schluss noch ein Hinweis. Liebe Hörerinnen und Hörer, unseren Podcast findet ihr auf allen gängigen Podcastportalen. Wenn euch unsere Folgen gefallen, unterstützt uns und teilt die Episoden. Bestimmt gibt es Kommilitoninnen und Kommilitonen oder Kolleginnen und Kollegen, die ebenfalls gerne reinhören und für die diese oder frühere Folgen spannend sein könnten. Hinterlasst uns gerne auch ein Like oder eine Rezension. Darüber freuen wir uns sehr. Für all das sagen wir danke. Und jetzt sage ich tschüss und bis zum nächsten Mal. Euer Olaf Brinkmann.