(ps) Big Data, Künstliche Intelligenz und maschinelles Lernen sind keine Zukunftsthemen mehr. Schon jetzt beeinflussen sie uns mehr, als den meisten bewusst sein wird. Doch während die Nutzung schon weit vorangeschritten ist, fehlen bislang noch Richtlinien und Rahmenbedingungen sowohl für die Datenerhebung als auch die Nutzung. Hier kommen qualitative, juristische und auch ethische Anforderungen auf, die das HPI mit dieser interdisziplinären Veranstaltung adressieren möchte.
Gerade die Vielfalt der Perspektiven ist ein wichtiger Ausgangspunkt: So solle vermittelt werden, „wie unterschiedlich Expertinnen und Experten der Bereiche Informatik, Recht, Ethik und Normung auf die Fragestellung rund um solche Big-Data-Anwendungen blicken.“ HPI-Professor Felix Naumann, der die Veranstaltung leitet, betont: „Wenn wir Künstliche Intelligenz gesellschaftlich verträglich nutzen wollen, benötigen wir für das Training der Modelle riesige Mengen an Daten, die passen und qualitativ hochwertig sind.“
„Wir zeigen Einsteigern ins Thema, auf welche Aspekte bei der Datensammlung und Verarbeitung man achten sollte, um gute, faire und ausgewogene Trainingsdaten zu verwenden und so auch faire KI-Systeme zu entwickeln“, so Naumann. Wie wichtig diese Aspekte sind, zeigt ein Blick in die USA: Dort wird schon seit längerem über den „AI bias“ (etwa: „KI-Voreingenommenheit“) diskutiert. Beispielsweise wurde ein KI-Programm entwickelt, um die Rückfälligkeit von Straftäter*innen vorherzusagen. Dieses hatte aber ein Rassismus-Problem und hat für Schwarze doppelt so viele falsch-positive Vorhersagen getroffen, wie für Weiße. Eine Analyse zeigte, dass nicht nur der Algorithmus, sondern auch die verwendeten Daten nicht ausgewogen waren.
Mithin, so Naumann, „wirken Anforderungen wie etwa Diskriminierungsfreiheit, Berücksichtigung von Diversität oder Arbeitnehmerdatenschutz auf die Daten und Prozesse zurück, mit denen KI-Modelle zuvor trainiert wurden.“ Entsprechend würden „unvollständige, fehlerbehaftete, unpassende oder einseitige Trainingsdaten zu unsicheren Modellen“ führen – und damit letztlich zu Fehlentscheidungen. Ferner solle diskutiert und aufgezeigt werden, „dass auch die rechtlichen Vorgaben für Test-, Validierungs- und Trainingsdaten im maschinellen Lernen sowie deren Umsetzung in Normen und Standards noch ‘weitgehend ungeklärt‘ sind.“
Für den Kurs gibt es keine speziellen Voraussetzungen, da die relevanten Diskussionsgrundlagen in der Einführung erläutert werden. Für den zweiwöchigen Kurs wird ein Zeitaufwand von etwa 5 Stunden pro Woche angesetzt. Anmeldungen erfolgen online über https://open.hpi.de.
Quellen:
https://open.hpi.de/courses/kidaten2023
https://www.presseportal.de/pm/22537/5468303
28.03.2023