Uploaded July 2022 | Updated September 2026, 4 days ago
Recorded as part of the Carl Friedrich von Weizsäcker Colloquium on July 20th
Anna Hoffmann (Hoffmann Consulting & Facilitation, Berlin & Potsdam):
KI‐Kontextanalysen als notwendiges Entscheidungswerkzeug für den verantwortungsvollen Einsatz von Machine Learning Verfahren
Bei der Einführung von ML‐Verfahren in softwaregestützte Arbeitsprozesse ist oft die Rede davon, dass Technologien entwickelt werden sollen, die menschenzentriert sind. Aktuell betont das Margrethe Vestager als eines der Ziele der „Neuen Europäischen Innovationsagenda“1. Doch wie kann das konkret gelingen, ohne bei den oft oberflächlichen Ansätzen von UX‐Design stehen zu bleiben?
Der Fragenkatalog der KI‐Kontextanalyse bietet eine Antwort auf die Frage, wie ML-basierte KI‐Systeme schon ab dem ersten Entwurf des Use‐Cases darauf durchleuchtet werden können, ob es sich um ein menschenzentriertes und verantwortungsvolles Business‐Design handelt, welche Risiken sich zeigen und wo nachgebessert werden kann.
In Punkt 4.4 „KI‐spezifisches Risikomanagement“ des Berichts der im Jahr 2018 eingesetzten Enquete‐Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ des Deutschen Bundestages heißt es: „Erst die Betrachtung des individuellen Anwendungskontextes und der individuellen Einsatzumgebung erlauben eine umfassende Bewertung der mit dem Gebrauch von Algorithmen und KI‐Systemen einhergehenden Kritikalität.“2
Genau auf diesem Gesichtspunkt baut die KI‐Kontextanalyse auf, die den spezifischen Anwendungskontext sowie die spätere Nutzerumgebung vertieft in den Blick nimmt. Es handelt sich dabei um eine Weiterentwicklung der „Gestaffelte Kontextsitzungen“ nach Thomas Bevan („Theory of Machines“) ergänzt um Fragestellungen aus der „Human Centered AI“ (Mittelstand 4.0‐Kompetenzzentrum Usability, Manuel Kulzer)3. Die vorgestellte Form der KI‐Kontextanalyse wird zurzeit am Fraunhofer‐Institut für Produktionsanlagen und Konstruktionstechnik (IPK) in Berlin für einen weitreichenden KI-Use Case erprobt.
Explore our colloquium schedule on our website: bit.ly/3sM4IFX
Recorded as part of the Carl Friedrich von Weizsäcker Colloquium on July 20th
Anna Hoffmann (Hoffmann Consulting & Facilitation, Berlin & Potsdam):
KI‐Kontextanalysen als notwendiges Entscheidungswerkzeug für den verantwortungsvollen Einsatz von Machine Learning Verfahren
Bei der Einführung von ML‐Verfahren in softwaregestützte Arbeitsprozesse ist oft die Rede davon, dass Technologien entwickelt werden sollen, die menschenzentriert sind. Aktuell betont das Margrethe Vestager als eines der Ziele der „Neuen Europäischen Innovationsagenda“1. Doch wie kann das konkret gelingen, ohne bei den oft oberflächlichen Ansätzen von UX‐Design stehen zu bleiben?
Der Fragenkatalog der KI‐Kontextanalyse bietet eine Antwort auf die Frage, wie ML-basierte KI‐Systeme schon ab dem ersten Entwurf des Use‐Cases darauf durchleuchtet werden können, ob es sich um ein menschenzentriertes und verantwortungsvolles Business‐Design handelt, welche Risiken sich zeigen und wo nachgebessert werden kann.
In Punkt 4.4 „KI‐spezifisches Risikomanagement“ des Berichts der im Jahr 2018 eingesetzten Enquete‐Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ des Deutschen Bundestages heißt es: „Erst die Betrachtung des individuellen Anwendungskontextes und der individuellen Einsatzumgebung erlauben eine umfassende Bewertung der mit dem Gebrauch von Algorithmen und KI‐Systemen einhergehenden Kritikalität.“2
Genau auf diesem Gesichtspunkt baut die KI‐Kontextanalyse auf, die den spezifischen Anwendungskontext sowie die spätere Nutzerumgebung vertieft in den Blick nimmt. Es handelt sich dabei um eine Weiterentwicklung der „Gestaffelte Kontextsitzungen“ nach Thomas Bevan („Theory of Machines“) ergänzt um Fragestellungen aus der „Human Centered AI“ (Mittelstand 4.0‐Kompetenzzentrum Usability, Manuel Kulzer)3. Die vorgestellte Form der KI‐Kontextanalyse wird zurzeit am Fraunhofer‐Institut für Produktionsanlagen und Konstruktionstechnik (IPK) in Berlin für einen weitreichenden KI-Use Case erprobt.
Explore our colloquium schedule on our website: bit.ly/3sM4IFX
