Ethik der Digitalisierung – von Prinzipien zu Praktiken

Nach welchen Kriterien müssen Chatbots programmiert sein, damit sie diskriminierungsfrei kommunizieren? Welche Regeln müssen bei der Programmierung von KI gelten, damit diese dem Wohl aller dienen? Wie gestalten wir die Algorithmen, die unsere Gesellschaft prägen?

Das internationale Forschungsprojekt „Ethik der Digitalisierung - Von Prinzipien zu Praktiken“ hat sich zum Ziel gesetzt, wegweisende Antworten auf Herausforderungen im Spannungsfeld von Ethik und Digitalisierung zu entwickeln. Innovative Wissenschaftsformate, sogenannte Research Sprints und Clinics, bilden den Kern des Projekts und ermöglichen interdisziplinäres wissenschaftliches Arbeiten an anwendungsnahen und praxisbezogenen Fragestellungen und erzielen Erkenntnisse von hoher sozialer Relevanz und Impact.

Das Projekt fördert den aktiven Austausch an der Schnittstelle von Wissenschaft, Politik und Gesellschaft und trägt somit zu einem globalen Dialog über eine Ethik der Digitalisierung bei.

Abschlussbericht herunterladen

Sprints und Clinics des Projekts

KI und Content Moderation

Künstliche Intelligenz und Inhaltsmoderation – Research Sprint

Die algorithmische Moderation von Inhalten auf Plattformen wirft viele Fragen auf: Gehen Algorithmen beispielsweise zu sehr gegen legitime Äußerungen vor oder scheitern sie eher daran, hasserfüllte Inhalte auf ihren Seiten zu begrenzen? Dieser Sprint untersuchte, wo die Grenzen zwischen Hassrede und freier Meinungsäußerung liegen. Zudem erarbeitete er, wie politische Entscheidungsträger*innen ein angemessenes Maß an Transparenz und Rechenschaftspflicht bei den algorithmischen Inhaltsmoderationsprozessen der Plattformen sicherstellen können.

Ergebnisse

Policy Brief: Making Audits Meaningful

Policy Brief: Disclosure Rules for Algorithmic Content Moderation

Policy Brief: Freedom of Expression in the Digital Public Sphere

Eckdaten

Ausschreibung · Fellows

Alexander von Humboldt Institut für Internet und Gesellschaft

August bis Oktober 2020

COVID-19 und der Zugang zu Bildung und Lernorten

Die Covid-19-Pandemie und der Zugang zu Bildung und Lernorten – Research Sprint

Im besten Fall können digitale Technologien in Krisenzeiten eingesetzt werden, um Lernen und Bildung zu unterstützen und zu fördern – im schlimmsten Fall schaffen sie neue soziale Ungleichheiten und verstärken bestehende Bedenken hinsichtlich Überwachung. Dieser Sprint hat die ethischen, gesellschaftlichen und politischen Herausforderungen in der Pandemie untersucht, durch die sich Bildung und das Lernen für Milliarden von Lernenden auf der ganzen Welt drastisch verändert hat.

Ergebnisse

Report: COVID-19 and Access to Education and Learning Spaces

Eckdaten

Ausschreibung · Fellows

Berkman Klein Center for Internet & Society

Oktober bis Dezember 2020

Fairness in zielgerichteter Werbung

Fairness in zielgerichteter Werbung – Research Clinic

Zielgerichtete Werbung auf Online-Plattformen bietet Werbetreibenden die Möglichkeit, Anzeigen an sorgfältig ausgewählte Zielgruppen zu liefern. Diese Relevanz-Optimierung von Stellenanzeigen birgt aber viele Risiken – von problematischer Geschlechterstereotypisierung bis hin zu potenzieller algorithmischen Diskriminierung. Um das zu verhindern und Online-Anzeigen inklusiver zu gestalten, sind neue Ansätze notwendig. Diese Clinic untersuchte die ethischen Implikationen von zielgerichteter Werbung mit dem Ziel, umsetzungsreife, fairnessorientierte Lösungen zu entwickeln.

Ergebnisse

Report: Clinic Report

YouTube Video: Increasing Fairness in Targeting Advertising

Eckdaten

Ausschreibung · Fellows

Alexander von Humboldt Institut für Internet und Gesellschaft

Februar 2021

Digitale Selbstbestimmung

Digitale Selbstbestimmung – Research Sprint

Da unsere Welt zunehmend digital vernetzt ist, müssen wichtige Dimensionen der Selbstbestimmung genauer untersucht und verstanden werden. Vor diesem Hintergrund nahm dieser Sprint folgende Aspekte kritisch unter die Lupe: die Kontrolle über unsere persönlichen Daten, unsere Selbstdarstellung im Netz und die Teilnahme am gesellschaftlichen Leben und an der digitalen Wirtschaft. Zudem wurde untersucht, welche Rolle unsere Gesundheit und das eigene Wohlbefinden für ein selbstbestimmtes Leben und den Aufbau von Beziehungen spielt.

Ergebnisse

Wikipedia Entry: Open Access Resources on Digital Self-Determination

Living Syllabus: Digital self-determination

Wikipedia Entry: Digital self-determination

Eckdaten

Ausschreibung · Fellows

Digital Asia Hub

März bis Mai 2021

Hin zu einer digitalen Souveränität Afrikas

Hin zu einer digitalen Souveränität Afrikas – Research Sprint

Dieser Forschungssprint konzentrierte sich auf die digitale Souveränität in Afrika und erarbeitete neue Lösungsansätze für eine digitale Wirtschaft, um die nationalen und individuellen Interessen der Bürger*innen des Kontinents zu verwirklichen. Die Teilnehmenden befassten sich mit spezifischen Fragen im Zusammenhang mit Datenkolonialismus, der Herstellung eines Gleichgewichts zwischen der Nutzung digitaler Technologien und dem Schutz vor der Kommodifizierung von Daten sowie der digitalen Überwachung.

Ergebnisse

Videomitschnitt: Bundespräsident Frank Walter Steinmeier im Gespräch mit unseren Sprint Fellows

Publikation: Digital Sovereignty: African Perspectives

Blogserie: Outcomes of the Virtual Research Sprint

Wikiversity Syllabus: Digital Sovereignty in Africa

Eckdaten

Ausschreibung · Fellows

South African Research Chair in Industrial Development an der Universität Johannesburg

Juni bis Juli 2021

Herausforderungen und Möglichkeiten von KI-Politik im öffentlichen Sektor

Herausforderungen und Möglichkeiten von KI-Politik im öffentlichen Sektor – Research Clinic

Diese Clinic war eine Zusammenarbeit mit der Bildungsabteilung der Stadt Helsinki und dem KI-Transparenzunternehmen Saidot. Es wurde untersucht, wie Technologien zur Unterstützung des Lernens, des Wohlbefindens der Schüler und der Bindung von Mitarbeitenden in Helsinkis Berufsschulen eingesetzt werden können.

Ergebnisse

Handbuch: Vierstufiger partizipativer Prozess zur Einführung von KI-Technologien

Strategiepapier: AI Policy Research Clinic

Eckdaten

Ausschreibung · Fellows

Berkman Klein Center for Internet & Society

Juli 2021

Erklärbare Künstliche Intelligenz

Erklärbare Künstliche Intelligenz – Research Clinic

Es ist nicht einfach, KI zu verstehen. Aber Erklärungen dafür, wie automatisierte Entscheidungen gefällt werden, sind in Zeiten automatisierter Systeme von großer Bedeutung. Erklärungen aus dem System heraus können hierbei hilfreich sein. Diese Clinic erforschte, was eine gute Erklärung von KI beinhalten muss und wie eine für Nutzer:innen sinnvolle Erklärung der Logik einer automatisierten Entscheidung gestaltet werden kann, die auch den Vorgaben der DSGVO entspricht.

Ergebnisse

Clinic Abstract: What to explain when we cannot easily explain?

Report: What to explain when explaining is difficult

Eckdaten

Ausschreibung · Forschende

Alexander von Humboldt Institut für Internet und Gesellschaft

September 2021

Städte, Digitalisierung und Ethik

Städte, Digitalisierung und Ethik – Research Clinic

Regierungen und Technologieunternehmen werben mit Effizienz, Komfort, Innovation und Nachhaltigkeit, um ihre Visionen von einer Stadt der Zukunft voranzutreiben. Diese Clinic hinterfragte kritisch, was eine Stadt nicht nur zu einer “smart city”, sondern auch zu einer “ethical city” macht.

Ergebnisse

Paper: Bangkok as an Ethical City

Kartenspiel: Projected futures in South Tarawa

Eckdaten

Ausschreibung · Fellows

Digital Asia Hub

Oktober 2021

Begleitveranstaltungen des Projekts

Auftaktveranstaltung

Auftaktveranstaltung in Schloss Bellevue

Zum Auftakt des Projekts lud Bundespräsident Frank-Walter Steinmeier nationale und internationale Experti*innen aus Wissenschaft, Politik, Wirtschaft und Zivilgesellschaft zu einer Konferenz in Schloss Bellevue ein. Im Zentrum der Auftakts standen ethische Fragen der Digitalisierung etwa bei der Funktionsweise von künstlicher Intelligenz und Algorithmen.

Ergebnisse

Video: Aufzeichnung der Auftaktkonferenz

Mitschrift: Rede des Bundespräsidenten

Eckdaten

Alexander von Humboldt Institut für Internet und Gesellschaft

August 2020

Multi-Stakeholder Dialog

Strategien für eine Ethik der Digitalisierung

Zum Abschluss der Serie aller Sprints und Clinics hat das HIIG-Forschungsteam zusammen mit geladenen Expert*innen aus Wissenschaft, Zivilgesellschaft, Politik und öffentlicher Verwaltung Bilanz über die Fortschritte einer ethisch geprägten Digitalisierung gezogen. Die Diskussionen und Workshops widmeten sich unter anderem folgenden Fragen: Welche Visionen müssen weiter in die Praxis umgesetzt werden? Wo sehen wir uns im Jahr 2040, nach weiteren 20 Jahren digitaler Transformation? Kann die Digitalisierung für alle funktionieren?

Ergebnisse

Blogbeitrag: Zusammenfassung der Ergebnisse

Eckdaten

Alexander von Humboldt Institut für Internet und Gesellschaft

Oktober 2021

Abschlussveranstaltung

Abschlussveranstaltung in Schloss Bellevue

Zum Abschluss des Projekts lud Bundespräsident Frank-Walter Steinmeier Vertreter*innen der einzelnen Forschungsteams zu einer Ergebnispräsentation in Schloss Bellevue ein. Er diskutierte die politische Relevanz der gewonnenen Erkenntnisse mit Carla Hustedt (Stiftung Mercator), Malavika Jayara (Digital Asia Hub), Sandra Cortesi (Berkman Klein Center an der Harvard-Universität) und Wolfgang Schulz (HIIG-Forschungsdirektor, Sprecher der europäischen Sektion des NoC).

Ergebnisse

Video: Aufzeichnung der Ergebnispräsentation und Diskussion

Mitschrift: Rede des Bundespräsidenten

Eckdaten

Alexander von Humboldt Institut für Internet und Gesellschaft

Februar 2022

Projektpartner

Projektpartner sind neben dem HIIG auch das Berkman Klein Center an der Harvard University, der Digital Asia Hub und das Leibniz-Institut für Medienforschung | Hans-Bredow-Institut.

Das NoC Forschungsprojekt wird von der Stiftung Mercator gefördert und steht unter der Schirmherrschaft des Bundespräsidenten Frank-Walter Steinmeier.

Projektdauer	07/2020 - 06/2022
Förderer	Stiftung Mercator

Kontakt

Das internationale und interdisziplinäre Forschungsvorhaben ist eine gemeinsame Initiative des Global Network of Internet and Society Research Centers (NoC).

Digitale Ethik

Ob Zivilgesellschaft, Politik oder Wissenschaft – alle scheinen sich einig, dass die Neuen Zwanziger im Zeichen der Digitalisierung stehen werden. Doch wo stehen wir aktuell beim Thema digitale Ethik? Wie schaffen wir eine digitale Transformation unter Einbindung der Gesamtgesellschaft, also auch der Menschen, die entweder nicht die finanziellen Mittel oder aber auch das nötige Know-How besitzen, um von der Digitalisierung zu profitieren? Und was bedeuten diese umfassenden Änderungen unseres Agierens für die Demokratie? In diesem Dossier wollen wir diese Fragen behandeln und Denkanstöße bieten.

Entdecke alle 12 Artikel

In den Medien

Bundespräsident Frank-Walter Steinmeier lädt zum Auftakt eines internationalen Forschungsprojektes „Ethik der Digitalisierung“ ins Schloss Bellevue ein. Im Zentrum der Auftaktkonferenz am 17. August stehen ethische Fragen der Digitalisierung etwa bei der Funktionsweise von künstlicher Intelligenz und Algorithmen, wie das Bundespräsidialamt mitteilte.

— Deutschlandfunk Kultur

Forschungsdirektor Prof. Wolfgang Schulz spricht in der 3sat-Sendung scobel zum Thema "Ethik fürs Digitale" (Minute 42:00) über die Forschung im Zuge des Projektes "Ethik der Digitalisierung".

— 3sat

Unter der Schirmherrschaft von Bundespräsident Frank-Walter Steinmeier ist das Projekt "Ethik der Digitalisierung" gestartet. Einer der Forschungsdirektoren, Prof. Wolfgang Schulz, spricht über im WDR digitale Kommunikation als Chance und Herausforderung.

— WDR

Forschungsteam

Publikationen

Konferenzbeiträge und andere Aktivitäten

Forschungsteam

Matthias C. Kettemann, Prof. Dr. LL.M. (Harvard)
Forschungsgruppenleiter und Assoziierter Forscher: Globaler Konstitutionalismus und das Internet
Vincent Hofmann
Wissenschaftlicher Mitarbeiter: AI & Society Lab
Wolfgang Schulz, Prof. Dr.
Forschungsdirektor

Ehemalige MitarbeiterInnen

Alexander Pirang
Ehem. Assoziierter Doktorand: AI & Society Lab
Friederike Stock
Ehem. studentische Mitarbeiterin: Ethik der Digitalisierung | NoC
Hanna-Sophie Bollmann
Ehem. Studentische Mitarbeiterin: Ethik der Digitalisierung und NoC
Nadine Birner
Ehem. Koordinatorin: Ethik der Digitalisierung | NoC

Publikationen

Arbeitspapiere

Drobotowicz, K., Vidal, V., Ziosi, M., Au, Y., Rawal, K., & Schneider, G. (2021). The playbook on participation and accountability in city challenges. Berkman Klein Center. Weitere Informationen

de Castro e Silva, B., Ly, E., Poszler, F., Marvez, G. R., Balasubramaniam, N., & Vogl, T. (2021). Municipal stakeholder engagement strategies for learning analytics and AI in education: participatory design, accountability and oversight mechanisms. Berkman Klein Center. Weitere Informationen

Kitikamdhorn, A., Chua, R., Bettay, D., Adhikari, A., Huth, L., & Atabey, A. (2021). Bangkok: An ethical city in 2030. Digital Asia Hub. Weitere Informationen

Cowls, J., Darius, P., Golunova, V., Mendis, S., Prem, E., Santistevan, D., Wang, W. (2020). Freedom of Expression in the Digital Public Sphere. Research Sprint on AI and Content Moderation. Weitere Informationen

Andere Publikationen

Hofmann, V. (2022). Explaining AI – How to explain the unexplainable? Digital society blog. Weitere Informationen

Deacon, B., Laufer, M. & Sokolovska, N. (2022). Sharing knowledge: Impact of Covid-19 on digital teaching. Digital society blog. Weitere Informationen

Asghari, H., Birner, N., Burchardt, A., Dicks, D., Fassbender, J., Feldhus, N., Hewett, F., Hofmann, V., Kettemann, M. C., Schulz, W., Simon, J., Stolberg-Larsen, J., & Züger, T. (2022). What to explain when explaining is difficult. An interdisciplinary primer on XAI and meaningful information in automated decision-making. HIIG Impact Publication Series. Weitere Informationen

Hofmann, V. (2022). Towards an African Narrative on Digital Sovereignty. Digital society blog. Weitere Informationen

Gehl Sampath, P., & Tregenna, F. (Eds.) (2022). Digital Sovereignty: African Perspectives, . Weitere Informationen

Gehl Sampath, P., & Tregenna, F. (Eds.) (2022). Wikiversity Syllabus: Digital Sovereignty in Africa, . Weitere Informationen

Birner, N., Hod, S., Kettemann, M. C., Pirang, A., & Stock, F. (Eds.) (2021). Increasing Fairness in Targeted Advertising. The Risk of Gender Stereotyping by Job Ad Algorithms. HIIG Impact Publication Series. Weitere Informationen

Butters, N., Bollmann, H., Hofmann, V., & Kettemann, M. (2021). Digitalisierung definieren: Eine Verteidigung ethischer Prinzipien im digitalen Zeitalter. Digital Society Blog. Weitere Informationen

Berkman Klein Center for Internet and Society (2021). A New Approach to Experiential Learning: Scholars inform the City of Helsinki on ethical AI applications for schools during BKC’s AI Policy Research Clinic. Berkman Klein Center. Weitere Informationen

Digital Asia Hub (2021). Fall 2021 Research Clinic on Cities, Digitalization, and Ethics. Digital Asia Hub News. Weitere Informationen

Bloch-Wehba, H., Fernandez, A., Morar, D. (2020). Making Audits Meaningful. HIIG Impact Publication Series. Weitere Informationen

Iramina, A., Spencer-Smith, C., Yan, W. (2020). Disclosure Rules for Algorithmic Content Moderation. HIIG Impact Publication Series. Weitere Informationen

Konferenzbeiträge und andere Aktivitäten

Organisation von Veranstaltungen

Closing Event: Ethics of Digitalisation
with attending Vip: Sandra Cortesi, Berkman Klein Center for Internet and Society at Harvard University; Malavika Jayaram, Digital Asia Hub. From 07.02.2022 to 07.02.2022. Schloss Bellevue, Berlin, Germany. Co-Organised by: Office of the Federal President of Germany, Network of Centers, Berkman Klein Center for Internet and Society at Harvard University, Digital Asia Hub (International) Weitere Informationen

Hanna-Sophie Bollmann, Vincent Hofmann, Nadine Birner, Matthias C. Kettemann, Wolfgang Schulz

Stakeholder-Dialog – Ethik der Digitalisierung
From 06.10.2021 to 08.10.2021. Humboldt Institute für Internet and Society, Berlin, Germany. Co-Organised by: Berkman Klein Center, Digital Asia Hub (International) Weitere Informationen

Nicole Butters, Hanna-Sophie Bollmann, Nadine Birner, Christian Grauvogel

Virtual research clinic – Cities and the ethics of digitalisation
From 01.10.2021 to 31.10.2021. Online, The Digital Asia Hub, Hong Kong, HKSAR. Co-Organised by: Humboldt Institute for Internet and Society, Berkman Klein Center (International) Weitere Informationen

Nadine Birner

Research Clinic: Explainable AI
From 08.09.2021 to 12.09.2021. Humboldt Institute for Internet and Society, Berlin, Germany (National) Weitere Informationen

Digitaler Salon: Cookies make you lose control
25.08.2021. Humboldt Institute for Internet and Society, Berlin, Deutschland (National) Weitere Informationen

Judith Faßbender, Natasha Vukajlovic, Christian Grauvogel

Virtual research clinic – Challenges & opportunities of public sector AI policy
From 01.07.2021 to 31.07.2021. Online, Berkman Klein Center for Internet & Society at Harvard University, Cambridge, USA. Co-Organised by: The Digital Asia Hub, Humboldt Institute for Internet and Society (International) Weitere Informationen

Nadine Birner

Research Sprint – Toward an African Narrative on Digital Sovereignty
From 08.06.2021 to 27.07.2021. Online, South African Research Chair in Industrial Development at the University of Johannesburg, Johannesburg, South Africa (International) Weitere Informationen

Nadine Birner, Matthias C. Kettemann

Clinic Closing Event – Increasing Fairness in Targeted Advertising
23.03.2021. Online, Humboldt Institute for Internet and Society, Berlin, Germany (International)

Shlomi Hod, Friederike Stock, Nadine Birner, Matthias C. Kettemann, Alexander Pirang, Wolfgang Schulz

Research Clinic – Increasing fairness in targeted advertising – The risk of gender stereotyping by job ad algorithms
From 01.02.2021 to 14.02.2021. Online, Humboldt Institute for Internet and Society, Berlin, Deutschland (International)

Shlomi Hod, Friederike Stock, Nadine Birner, Matthias C. Kettemann, Alexander Pirang, Wolfgang Schulz

Ethik der Digitalisierung – von Prinzipien zu Praktiken

Sprints und Clinics des Projekts

Künstliche Intelligenz und Inhaltsmoderation – Research Sprint

Ergebnisse

Eckdaten

Begleitveranstaltungen des Projekts

Projektpartner

Kontakt

Nadine Birner

Weitere Artikel in unserem Dossier

Digitale Ethik

In den Medien

Arbeitspapiere

Andere Publikationen

Organisation von Veranstaltungen

BLEIBEN SIE INFORMIERT