Menschzentrierte KI-Gestaltung - Anschlussfähigkeit der Rollenkonzepte und Methodik von Constructive Technology Assessment und Value Sensitive Design

Systeme Künstlicher Intelligenz (KI) menschzentriert zu gestalten erfordert Gestaltungsstrategien, die Verantwortungsträgern die Priorisierung menschlicher Fähigkeiten, Bedürfnisse und Werte in KI-Gestaltungsprozessen (KIGP) ermöglichen. Die Entwicklung entsprechender Gestaltungsmethoden ist eine Zielsetzung im Feld Human-centered AI (HCAI), dessen Realisierung eine zielführende Operationalisierung gestaltungstheoretischer Erkenntnisse erfordert, sowie eine bedachte Gewichtung von sozialen, ethischen, technischen und organisatorischen Gestaltungsfaktoren. Über die Navigation dieses multifaktoriellen Spannungsfelds herrscht im Feld Technikfolgenabschätzung (TA) ausgeprägtes Erfahrungswissen vor, dessen Aufgriff eine Erwägung für die Methodenentwicklung in HCAI lohnt. ... mehrDie Anschlussfähigkeit von TA zu HCAI exploriert die Dissertation anhand der beiden Gestaltungsansätze Constructive Technology Assessment (CTA) und Value Sensitive Design (VSD). Die übergeordnete Forschungsfrage des Dissertationsprojekts lautet: Welche Erkenntnisse kann HCAI von den Ansätzen CTA und VSD aufgreifen, um KI-Systeme menschzentriert zu gestalten? Zur Beantwortung dieser Frage fokussiert die Dissertation die verwendeten Rollenkonzepte in CTA und VSD, sowie die Methodik, die beide Ansätze zur Gestaltung technischer Systeme vorschlagen. Zunächst wird in Kapitel 2 die Gestaltungsphilosophie der menschzentrierten Gestaltung (MZG) vorgestellt, die einen zentralen Ausgangspunkt konzeptueller und methodischer Überlegungen in HCAI bildet. Kapitel 3 gibt einen Überblick über das Feld HCAI und widmet sich den in HCAI diskutierten Weiterentwicklungsideen des MZG-Ansatzes, die sich bereits Mensch-Technik-Verhältnissen höherer Komplexität widmen. Kapitel 4 vollzieht dann einen Perspektivwechsel hin zur Auffassung von Technikgestaltung (TG) in TA und stellt zentrale Annahmen sowie die vorgeschlagenen Methoden der Ansätze CTA und VSD vor. Das Kapitel schließt mit den daraus resultierenden, zunächst mehrheitlich abstrakten Implikationen für die Ziele in HCAI. Kapitel 5 widmet sich anschließend den Rollenkonzepten, die in CTA und VSD verwendet werden, um menschliches Leben und Handeln in Gestaltungskontexten zu beschreiben und in Gestaltungsmethoden zu operationalisieren. Ziel der Ergründung der Bedeutungen, Ursprünge und blinden Flecke der Rollenkonzepte ist nachzuvollziehen, welche Interpretationen von Menschzentriertheit in CTA und VSD zum Tragen kommen, und wie sich diese auf die vorgeschlagenen Methoden übertragen. Daraus resultierende Schlussfolgerungen für HCAI werden am Ende des Kapitels diskutiert. Kapitel 6 wendet sich der Gestaltungspraxis zu und beschreibt die Ergebnisse einer Interviewstudie, in der KI-Experten aus der Gestaltungspraxis die Praxistauglichkeit der CTA- und VSD-Methoden beurteilen. Zentrale Leitfragen der Expertenevaluation sind, inwieweit die Methoden den Anforderungen von KIGP in der Praxis gerecht werden können und inwieweit sie Verant-wortungsträgern das Treffen belastbarer Gestaltungsentscheidungen ermöglichen, da dies zentrale Kriterien für HCAI-Methoden darstellen. Die differenzierten Einschätzungen der KI-Experten werden mithilfe einer SWOT-Analyse dargestellt, deren Ergebnisse die Diskussion weiterer Schlussfolgerungen für HCAI ermöglichen, sowie die Formulierung von Weiterentwicklungsempfehlungen für die Methoden von CTA und VSD. In Kapitel 7 wird zusammenfassend darüber reflektiert, was CTA und VSD für HCAI (nicht) bereitstellen können und unter welchen Bedingungen eine interdisziplinäre Zusammenarbeit der Communities HCAI und TA zielführend sein kann.

Designing and developing artificial intelligence (AI) systems in a human-centered way requires design strategies that enable decision-makers to prioritize human capabilities, needs and values in AI design processes. The development of corresponding design methods is an objective in the field of Human-centered AI (HCAI), the realization of which requires a goal-oriented operationalization of design theory findings as well as a considered weighting of social, ethical, technical and organizational design factors. The field of Technology Assessment (TA) has a wealth of experience in navigating this multifactorial field of possible tensions and conflicts, which is worth considering for the development of methods in HCAI. ... mehrThe dissertation explores the compatibility of TA with HCAI through closely examining the two design approaches Constructive Technology Assessment (CTA) and Value Sensitive Design (VSD). The central research question of the dissertation project is: What insights can HCAI draw from the CTA and VSD approaches in order to design AI systems in a human-centered way? To answer this question, the dissertation focuses on the role concepts used in CTA and VSD, as well as the methods that both approaches propose for designing and developing technical systems. Chapter 2 begins with an introduction to the design philosophy of Human-centered Design (HCD), which forms a central starting point for conceptual and methodological considerations in HCAI. Chapter 3 provides an overview of the field of HCAI and presents the ideas for further development of the HCD approach discussed in HCAI, which already address human-technology-relationships of higher degrees of complexity. Chapter 4 then shifts the perspective towards the understanding of technology design in TA and presents central assumptions as well as the proposed design methods of CTA and VSD. The chapter concludes with the resulting, initially mostly abstract implications for the objectives in HCAI. Chapter 5 is then devoted to the role concepts used in CTA and VSD to describe forms of human life and action in design contexts and to operationalize them in design methods. The aim of exploring the meanings, origins and blind spots of these role concepts is to understand which interpretations of human-centeredness come into play in CTA and VSD, and how these translate into the respective design methods of the both approaches. The chapter ends by discussing the resulting conclusions for HCAI. Chapter 6 then turns towards design practice and describes the results of an interview study in which AI experts assess the practicability of the CTA and VSD methods. The central questions of the expert evaluation focus on the extent to which the methods can meet the requirements of AI design processes in practice and to the extent to which they enable decision-makers to make reliable design decisions, as these present central criteria for HCAI methods. The differentiated assessments of the AI experts are presented with the help of a SWOT analysis, the results of which enable the discussion of further conclusions for HCAI and the formulation of recommendations for the further development of the CTA- and VSD-methods. Chapter 7 summarizes what CTA and VSD can (not) provide for HCAI and under what conditions interdisciplinary cooperation between the HCAI and TA communities can be expedient.