DFG-Projekt Accountable AI
Ziel des Forschungsprojekts:
Entwicklungen im Bereich der Artificial Intelligence (AI) bieten neue innovative Möglichkeiten zum Wohlbefinden und Fortschritt einzelner Individuen und der Gesellschaft beizutragen. Aufgrund einer Vielzahl von Vorfällen mit AI (bspw. Diskriminierung durch AI-Prognosen) gewinnt jedoch die Accountability von AI immer mehr an Bedeutung. Accountability bedeutet im Allgemeinen, dass durchgeführte Handlungen eindeutig einer Person zugeordnet werden können. Angewandt auf AI bezeichnen Accountable AI-basierte Informationssysteme (AAIS) ein sozio-technisches Beziehungsgefüge aus Menschen die mit AI-Technologien in Interaktion stehen, um gewisse Aufgaben zu erfüllen, wobei die Handlungen im Rahmen der Interaktion eindeutig einer Person zurechenbar gemacht werden können. Damit soll die Rechenschaftspflicht sichergestellt werden, um jemanden im Falle eines Versagens des AI-basierten IS rechtlich zur Verantwortung zu ziehen.
Während die Rufe zur Entwicklung und Einbettung von Mechanismen zur Schaffung von Accountability in AI-basierten IS lauter werden, steht die Forschung zu AAIS noch am Anfang. Ausgehend von dem aktuellen Stand der Forschung herrscht konzeptuelle Unklarheit über AAIS aufgrund der Vielzahl an Begriffsdefinitionen und der unterschiedlichen Meinungen, welche Ziele durch die Schaffung von Accountability verfolgt werden sollen. Zum anderen fehlt es an validierten Erkenntnissen und Erklärungsmodellen dazu, wie sich der Einsatz von Accountability-Mechanismen auf die Entwicklung, den Betrieb und die Nutzung von AI auswirkt. Daraus ergeben sich drei Forschungsfragen, welche im Rahmen dieses Projektes beantwortet werden sollen: (1) „Welchen Facetten von Accountability sind relevant für AAIS?“, (2) „Welchen Einfluss hat Accountability auf die Wahrnehmung bei der Entwicklung, dem Betrieb und die Nutzung von AI?“ und (3) „Wie wirkt sich Accountability auf das Verhalten von AI-Nutzern und Architekten aus?“.
Um eine ganzheitliche Konzeptualisierung von AAIS zu entwickeln, planen die Antragsteller Facetten von Accountability zu identifizieren, welche innerhalb eines AAIS ausschlaggebend für die Wirksamkeit von Accountability-Mechanismen sind. Dadurch kann ein konzeptionell-methodisches Instrumentarium für die weitere Erforschung von Accountability geschaffen werden. Die zweite Forschungsfrage soll beantwortet werden, indem sowohl positive und negative Wahrnehmungen der Akteure von Accountability-Mechanismen untersucht werden. Dabei stützen sich die Untersuchungen auf die Accountability-Facetten und werden theoretisch durch die Accountability-Theorie fundiert. Die gewonnen Erkenntnisse leisten einen theoretischen Beitrag in Form von multi-perspektivischen Erklärungsmodellen zur Wirkung von Accountability. Zur Beantwortung der dritten Forschungsfrage soll realweltlich untersucht werden, wie sich das Verhalten von AI-Architekten und -Nutzern verändert, wenn diese durch Accountability-Mechanismen zur Rechenschaft gezogen werden können.
Antragsteller:
- Alexander Benlian und Ali Sunyaev
Ansprechpartner:
Förderer: