Studienergebnisse Anwender-Studie TrustKI

Informationen zur Anwender-Studie TrustKI
Studien-Design und -Autorin
Ulla Coester
Ergebnisauswertung
Yasin Zerria
Studien-Design und -Ausführung
Dominik Adler
Marcel Brauer
Prof. Dr. Norbert Pohlmann
Kontakt
Institut für Internet-Sicherheit – if(is), Westfälische Hochschule, Gelsenkirchen
Ulla Coester, Projektleiterin TrustKI
(Mobile) 0179 46 020 30
(E-Mail) coester@internet-sicherheit.de
(Webseite) www.vertrauenswürdigkeit.com
Copyright:
Diese Studie wurde von den wissenschaftlichen Mitarbeitern des Forschungsprojekts “Vertrauenswürdigkeits-Plattform
für KI-Lösungen und Datenräume” am Institut für Internet-Sicherheit – if(is) erstellt. Die darin enthaltenen Daten und
Informationen wurden gewissenhaft und mit größtmöglicher Sorgfalt nach wissenschaftlichen Grundsätzen ermittelt. Für
deren Vollständigkeit und Richtigkeit kann jedoch keine Garantie übernommen werden. Alle Rechte am Inhalt dieser
Studie liegen beim Institut für Internet-Sicherheit – if(is). Vervielfältigungen, auch auszugsweise, sind nur mit schriftlicher
Genehmigung gestattet.
Genderhinweis:
Aus Gründen der besseren Lesbarkeit wird im Text auf die gleichzeitige Verwendung männlicher und weiblicher
Sprachformen verzichtet. Sämtliche Personenbezeichnungen gelten gleichwohl für beide Geschlechter. Dies impliziert
keine Benachteiligung des weiblichen Geschlechts, sondern ist im Sinne der sprachlichen Vereinfachung als
geschlechtsneutral zu verstehen.
_ _
© TrustKI | if(is) 2024 1
Vorwort
Die konkrete Fragestellung, die im Auftrag des „Bundesministerium für Digitales und Verkehr“ im Forschungsprojekt
TrustKI untersucht wird, lautet, ob eine Vertrauenswürdigkeits-Plattform für KI-Lösungen geeignet ist, den
Entscheidungsprozess der Anwender zu vereinfachen. Unter den herrschenden Gegebenheiten ist das Erfordernis von
Vertrauenswürdigkeit evident: Mit der zunehmenden Digitalisierung geht eine Komplexität einher, sodass es für
Anwender immer schwieriger wird, die Wirkweise und Ziele von KI-Lösungen umfassend verstehen sowie einordnen zu
können. Dies schränkt sie potenziell in ihrem Entscheidungsprozess ein. Um diesem Umstand konstruktiv
entgegenzuwirken, ist es seitens der KI-Anbieter notwendig, entsprechende Maßnahmen zu ergreifen, damit es
Anwendern möglich wird Vertrauen aufzubauen. Denn die durch Vertrauen evozierte Gewissheit – also die Annahme,
dass es möglich ist, sich auf etwas Bestimmtes zu verlassen – ermöglicht es prinzipiell, Komplexität zu reduzieren, weil
dadurch die subjektive Überzeugung der Richtigkeit von Handlungen entsteht.
Basierend auf der Annahme, dass für diesen Prozess spezifische Kriterien zum Aufbau eines Vertrauensverhältnisses
erfüllt sein müssen, steht hierbei im Fokus zu identifizieren, was konkret zur Beurteilung der Vertrauenswürdigkeit von
KI-Anbietern geeignet ist.
Folglich wurden im Rahmen der vorliegenden Anwender-Studie TrustKI 263 Führungskräfte anhand der sieben
Vertrauenswürdigkeits-Aspekte aus dem Vertrauenswürdigkeits-Modell dahingehend befragt, welche Informationen für
sie relevant sind, um einem KI-Anbieter vertrauen zu können.
In der vorliegenden Publikation werden die Ergebnisse der Auswertung des Fragebogens vorgestellt und kurz
kommentiert. Eine ausführliche Interpretation aller relevanten Faktoren im Kontext der Analyse von Vertrauen und
Vertrauenswürdigkeit gemäß spezifischer Sachverhalte wird im Forschungsbericht TrustKI bereitgestellt.
Studienmethodik
Für die Anwender-Studie TrustKI wurden von Ende Juni bis Ende August 263 Führungskräfte aus deutschen
Anwenderunternehmen online befragt.
Methodik Repräsentative Erhebung
Stichprobengröße N = 263
Befragungsdauer 40 Minuten
_ _
© TrustKI | if(is) 2024 2
Vertrauenswürdigkeits-Aspekte im Kontext des Vertrauenswürdigkeits-Modells
Aufgrund der Tatsache, dass Anwender kein vollständiges Wissen über die Funktionsweise einer KI-Lösung haben
können, stellt deren Nutzung für diese theoretisch eine Risikohandlung dar. Basierend auf dieser Erkenntnis resultiert
konsequenterweise die Frage, was sichergestellt sein muss, um Anwender in die Lage zu versetzen, KI-Lösungen zu
nutzen. Hierfür gilt schlüssig die Prämisse der Vertrauenswürdigkeit, die seitens der KI-Anbieter – als Vertrauensnehmer
– nachgewiesen werden muss. Insgesamt zeigt sich somit einerseits die Relevanz von Vertrauen beim Einsatz innovativer
Technologien und unterstreicht gleichzeitig die Notwendigkeit, dass KI-Anbieter vertrauenswürdig agieren müssen, damit
dieses Vertrauen auch gerechtfertigt ist. Aus dieser Interdependenz lässt sich das Erfordernis eines
Vertrauenswürdigkeits-Modells begründen, denn der Aufbau der Vertrauenswürdigkeit erfordert eine gezielte
Vorgehensweise, bei der die verschiedenen Aspekte gleichwertig unternehmensspezifisch analysiert und in einer
Strategie umgesetzt werden müssen (siehe Abbildung 1).
Abbildung 1: Vertrauenswürdigkeits-Modell
Die Zusammenhänge zum Aufbau von Vertrauen inklusive der relevanten Vertrauenswürdigkeits-Aspekte – die im
Rahmen der Anwender-Studie TrustKI näher untersucht wurden – sind in dem Vertrauenswürdigkeits-Modell dargestellt.
_ _
© TrustKI | if(is) 2024 3
Inhaltsverzeichnis
1. Zutrauen 5
2. Zuverlässigkeit 12
3. Integrität 15
4. IT-Sicherheit 26
5. KI-Lösung 31
5.1 Vertrauenswürdigkeits-Aspekt: Transparenz der KI-Lösung 31
5.2 Vertrauenswürdigkeits-Aspekt: Leistungsfähigkeit der KI-Lösung 36
5.3 Vertrauenswürdigkeits-Aspekt: Zweckprägnanz der KI-Lösung 39
6. Abschlussfragen 41
_ _
© TrustKI | if(is) 2024 4
1. Zutrauen
.. ist ein relevantes Kriterium für die Vertrauenswürdigkeit. Generell kann dieses im Hinblick auf die Funktionalität
dadurch erzeugt werden, dass KI-Anbieter sowohl über die Fähigkeit als auch über die entsprechenden Mittel verfügen,
um verlässliche KI-Lösungen bereitzustellen.
.. muss sowohl inhaltlich erfüllt als auch transparent nachgewiesen werden. Wichtig für KI-Anbieter ist somit, eine
Strategie zu entwerfen, um diesem Kriterium sowohl gerecht werden zu können als auch dieses in einer
Zutrauens-Leitlinie zu dokumentieren. Hierzu muss unter anderem ein Konzept bezüglich der Parameter, die zwingend
erfüllt sein müssen, erstellt werden.
Um zu ermitteln, welche Informationen der KI-Anbieter im Rahmen des Vertrauenswürdigkeits-Aspekts Zutrauen für die
Anwender relevant sind, wurden in der Studie die nachfolgenden Fragen gestellt.
Frage 1: Wie wichtig sind für Sie folgende Fakten, um dem KI-Hersteller vertrauen zu können?
Die Werte bezüglich der hier abgefragten Faktoren liegen relativ nah beieinander. Jedoch machen die detaillierten
Analysen transparent, dass die Vertrauenswürdigkeit der KI-Anbieter in erster Linie durch den Standort Deutschland/EU
manifestiert wird.1 Das lässt sich auch daran ablesen, dass über 50 Prozent der Teilnehmer diesen Faktor als “sehr
wichtig” erachten.
Frage 2: Bitte beurteilen Sie die Aussagen zum Mitarbeiterportfolio des KI-Herstellers.
1 Siehe Forschungsbericht zur Anwender-Studie TrustKI, S. 17.
_ _
© TrustKI | if(is) 2024 5
Im Kontext des Mitarbeiterportfolios zeigt sich deutlich, dass Kompetenz – die als eines der relevanten Kriterien gilt, die
zur Beurteilung der Vertrauenswürdigkeit maßgeblich sind – von den Anwendern unter dedizierten Aspekten als wichtig
betrachtet wird: Zum einen hinsichtlich der Erfahrung in dem speziellen Einsatzbereich der KI-Lösung und zum anderen,
dass im ausreichenden Maße kompetente Mitarbeiter mit dem notwendigen Wissen bezüglich KI und Daten zur
Verfügung stehen.
Bemerkenswert ist, dass bei der Frage – ob im Rahmen der Rekrutierung von Mitarbeitern Diversität ein grundlegendes
Kriterium sein sollte – absolut keine allzu hohe Zustimmung (22,7 Prozent – Top 1) zu verzeichnen ist. Eine weitere
Auswertung nach spezifischen Merkmalen hat jedoch ergeben, dass Teilnehmer unter 30 Jahren ebenso wie Teilnehmer,
die umfangreiche oder solide Kenntnisse im Bereich KI haben und jene, die KI bereits im Unternehmen einsetzen diese
Bedingung als sehr wichtig erachten. Eine detaillierte Deskription bezüglich der Relevanz der Diversität steht im
Forschungsbericht unter “Holistische Transparenz – Selektion des relevanten Informationsbedarfs” – Absichtserklärung
des KI-Anbieters.2
Frage 3: Wo sollte die signifikante Entwicklungs- und Programmierarbeit durchgeführt werden?
Anhand dieser Ergebnisse zeigt sich eindeutig, dass deutschen Anbietern im Bereich KI beziehungsweise entsprechend
den Entwicklern ein hohes Vertrauen entgegengebracht wird. Ein Erklärungsansatz dafür ist, dass neben der Kompetenz
sowohl der Vertrauenswürdigkeit als auch der Werteorientierung insbesondere hier eine dominante Rolle zugeschrieben
wird. Der hohe Zuspruch zum Standort Deutschland legt zudem nahe, dass die verlässlichen gesetzlichen Regelungen
den Teilnehmern die Sicherheit geben, dass wenn der KI-Anbieter das in ihn gesetzte Vertrauen missbraucht, sie
trotzdem in geregelter Form zu ihrem Recht kommen können.
2 Siehe Forschungsbericht zur Anwender-Studie TrustKI, S. 21.
_ _
© TrustKI | if(is) 2024 6
Frage 4: Über welche Kompetenzen müssen die Mitarbeiter verfügen, die an der Entwicklung beteiligt sind?
Die zuvor gemachte Aussage wird anhand dieser Ergebnisse bestätigt. Denn neben der – als notwendig erachteten –
Kompetenz durch nachgewiesene Praxiserfahrung wird mit der Forderung nach Soft Skills auch die damit assoziierte
Handlungsweise geprägt durch kollektive Wertvorstellungen der Mitarbeiter als relevant erachtet.
Frage 5: Für wie relevant halten Sie es, dass der KI-Hersteller folgende Prozesse etabliert hat?
Im Rahmen des Vertrauenswürdigkeits-Aspekts Zutrauen wird ersichtlich, dass es für die Teilnehmer relevant ist, dass
KI-Anbieter alle Maßnahmen umsetzen, die einen kontinuierlichen Qualitätsstandard gewährleisten – etwa, dass bei
Personalfluktuation das Wissen im Unternehmen erhalten bleibt. Eine detaillierte Deskription diesbezüglich steht im
Forschungsbericht unter “Spezielle Aspekte im Kontext der Definition von Vertrauen und Vertrauenswürdigkeit” –
Kompetenz.3
3 Siehe Forschungsbericht zur Anwender-Studie TrustKI, S. 24.
_ _
© TrustKI | if(is) 2024 7
Frage 6: Welche weiteren Prozesse sollte der KI-Hersteller etablieren?
Allgemein wird Transparenz vorrangig mit der KI-Lösung assoziiert. Die Ergebnisse der Anwender-Studie belegen jedoch
einen darüber hinaus bestehenden Bedarf an Transparenz. Die Teilnehmer erwarten zusätzlich Informationen über die –
seitens der KI-Anbieter – etablierten Prozesse insbesondere in Bezug auf die Einhaltung ethischer Werte wie
Privatsphäre sowie die angemessene Handhabung der Daten. Hierbei steht unter anderem die IT-Sicherheit der
KI-Lösung im Fokus. Des Weiteren werden adäquate Regularien und Richtlinien gefordert.
Frage 7: In welche Bereiche muss der KI-Hersteller insbesondere investieren, damit Sie Zutrauen in seine
Wettbewerbsfähigkeit haben können?
Wie bereits ausgeführt, wird dem Fakt, dass die Entwicklung in Deutschland stattfindet, eine hohe Bedeutung
beigemessen. Von daher ist es folgerichtig, dass – auch wenn die Forschung vorrangig auf dem ersten Rang gesehen wird
– der Stellenwert der Entwicklung insgesamt (1. Rang und 2. Rang zusammengefasst) mit 72 Prozent höher eingeschätzt
wird.
_ _
© TrustKI | if(is) 2024 8
Frage 8: Haben Sie als Anwenderunternehmen Compliance-Vorgaben, die sich insbesondere auf den KI-Hersteller
beziehen?
Freitextantwort 8a (Frage 8 = “Ja”)
Die Compliance-Vorgaben der Teilnehmer sind divergent, allerdings zeigt sich, dass der Forderung nach Transparenz
sowie dem sorgfältigen Umgang mit Daten ein besonderer Stellenwert zugesprochen wird.
Freitextantwort 8b (Frage 8 = “Nein”)
Die Freitextantworten bezüglich Compliance-Vorgaben unterscheiden sich nur marginal von den zusätzlichen Prozessen
und weisen insgesamt eine sehr große thematische Übereinstimmung auf. Teilnehmer, die keine speziellen
Compliance-Vorgaben für die Anbieter im Bereich KI erstellt haben, begründeten dies in der Regel damit, dass dies für
sie aktuell nicht notwendig beziehungsweise relevant sei.
_ _
© TrustKI | if(is) 2024 9
Frage 9: Bitte bewerten Sie im Folgenden die drei Komponenten der Nachhaltigkeit, die für einen KI-Hersteller maßgeblich
sein sollten.
Gemäß Karl Homann4 ist der zentrale Aspekt jeglicher wirtschaftsethischer Diskussion der Widerspruch zwischen Ethik
und Wirtschaft. Er vertritt die Ansicht, dass sich Moral in einer Gesellschaft nicht gegen die Wirtschaft, sondern
letztendlich nur in und durch die Wirtschaft erwirken lässt. Das Ergebnis der Studie untermauert den Ansatz, dass eine
grundsätzliche Gleichrangigkeit zwischen Ökonomie und Moral (Ratingfrage: soziale Nachhaltigkeit) gegeben sein muss
und nicht der Ökonomie auf Kosten der Moral Vorrang eingeräumt werden darf oder umgekehrt die Moral über der
Ökonomie steht.
4 Prof. Dr. Karl Homann (* 19. April 1943 in Everswinkel) war bis 2008 Inhaber des Lehrstuhls Philosophie und Ökonomik an der
Ludwig-Maximilians-Universität München.
_ _
© TrustKI | if(is) 2024 10
Frage 10: Genügen Ihnen die oben aufgeführten Informationen, um dem KI-Hersteller zuzutrauen, dass er sowohl über
die Fähigkeit als auch über die entsprechenden Mittel verfügt, um eine verlässliche KI-Lösung bereitzustellen?
Freitextantwort 10a (Frage 10 = “Nein”)
_ _
© TrustKI | if(is) 2024 11
2. Zuverlässigkeit
.. bedeutet, dass KI-Anbieter stets wohlwollend im besten Sinne der Anwender – kooperativ und verantwortlich –
agieren.
Kooperativ handeln: Wird zum Beispiel durch die Übernahme einer Gesamtverantwortung im Schadenfall dokumentiert
sowie mittels Rückrufaktionen bei identifizierten Problemen oder sofortiger Mitteilung bei entdeckten Schwachstellen.
Verantwortlich handeln: Wird zum Beispiel durch die Überprüfung und kontinuierliche Kontrolle der Lieferketten
dokumentiert sowie mit der Durchführung aller Maßnahmen, um die ordnungsgemäße Funktionalität der KI-Lösung
fortlaufend zu gewährleisten.
.. impliziert, dass KI-Anbieter grundsätzlich wohlwollend handeln, sich also an den Bedürfnissen der Anwender
orientieren, statt ihre eigenen Interessen besonders in den Mittelpunkt zu stellen. Die entsprechende Handlungsweise
wird im Rahmen eines Zuverlässigkeitsmanagements entwickelt und definiert.
Um zu ermitteln, welche Informationen der KI-Anbieter im Rahmen des Vertrauenswürdigkeits-Aspekt Zuverlässigkeit für
die Anwender relevant sind, wurden in der Studie die nachfolgenden Fragen gestellt.
Frage 11: Bitte bewerten Sie die Relevanz der folgenden Aussagen zur Gesamtverantwortung des KI-Herstellers.
Im Sinne der Gesamtverantwortung erachten die Teilnehmer vorrangig die Prozesse zur Qualitätssicherung sowohl der
Entwicklung (65 Prozent) als auch der Lieferkette (59,9 Prozent) als sehr wichtig.
_ _
© TrustKI | if(is) 2024 12
Frage 12: Bitte bewerten Sie die folgenden Aussagen, die für Sie in der Kommunikation mit dem KI-Hersteller wichtig sind.
Im Rahmen der Kommunikation sind zwei Aspekte besonders relevant im Sinne eines wohlwollenden Verhaltens der
KI-Anbieter: Zum einen die geforderte Kommunikation auf Augenhöhe sowie zum anderen, dass ein Störfall unmittelbar
mitgeteilt wird. Vor allem letzteres lässt darauf schließen, dass die Teilnehmer von einem KI-Anbieter erwarten, dass er
mittels entsprechender Maßnahmen dafür sorgt, dass ihnen kein Schaden aus der Nutzung einer KI-Lösung erwächst.
Eine detaillierte Deskription diesbezüglich steht im Forschungsbericht unter “Holistische Perspektive der Transparenz –
Auswertung von relevanten Parametern” – Wertekodex-Umsetzung der (ethischen) Sorgfaltspflicht .5
Frage 13: Welche Referenzen sollte Ihnen der KI-Hersteller zur Verfügung stellen, damit Sie Vertrauen zu ihm aufbauen
können?
Obwohl dem direkten Kontakt zu Referenzkunden absolut keine hohe Bedeutung beigemessen wird (34,4 Prozent – Top
1), ist an dieser Stelle bemerkenswert, dass Teilnehmer aus Großunternehmen – im Vergleich zu allen anderen
Unternehmensarten – diese Möglichkeit als sehr wichtig erachten.
5 Siehe Forschungsbericht zur Anwender-Studie TrustKI, S. 18-19.
_ _
© TrustKI | if(is) 2024 13
Frage 14: Genügen Ihnen die oben aufgeführten Informationen, um darauf vertrauen zu können, dass ein KI-Hersteller im
besten Sinne seiner Anwender handelt, sich also gleichwertig an deren Bedürfnissen orientiert, statt seine eigenen
Interessen vorrangig in den Mittelpunkt zu stellen?
Freitextantwort 14a (Frage 14 = “Nein”)
_ _
© TrustKI | if(is) 2024 14
3. Integrität
.. setzt voraus, dass alle Kriterien der Vertrauenswürdigkeit und hier insbesondere die ethischen Dimensionen beachtet
werden. Wichtig im Sinne seiner gebotenen Sorgfaltspflicht ist, dass ein KI-Anbieter als Vertrauensnehmer prinzipiell in
der Lage ist, alle Versprechen, die er abgegeben hat, überhaupt einhalten kann und auch tatsächlich einhält.
.. bedeutet auch die Anerkennung gesellschaftlicher Werte und Normen. Von daher gilt es für KI-Anbieter – als einer der
wichtigsten Schritte – hier eine Integritäts-Maxime zu entwerfen, mit klaren Bekenntnissen zu ihrem Geschäftsmodell
und im Weiteren den unternehmensspezifischen Aspekten. Dazu gehört definitiv, die ethischen Anforderungen klar zu
adressieren.
Um zu ermitteln, welche Informationen der KI-Anbieter im Rahmen des Vertrauenswürdigkeits-Aspekt Integrität für die
Anwender relevant sind, wurden in der Studie die nachfolgenden Fragen gestellt.
Frage 15: Über welche Grundsätze des unternehmerischen Handelns möchten Sie insbesondere informiert werden?
Wie bereits bei dem Vertrauenswürdigkeits-Aspekt Zutrauen ausgeführt, wird die Gleichrangigkeit zwischen Moral und
Ökonomie als relevant angesehen. Diese Erkenntnis wird hier durch den Informationsbedarf bezüglich der
Unternehmensstrategie zur sozialen, ökonomischen und ökologischen Nachhaltigkeit zusätzlich untermauert. Auch der
Anspruch im Hinblick auf ein wohlwollendes Verhalten seitens der KI-Anbieter wird an dieser Stelle noch einmal durch
den Informationsbedarf zu den Grundsätzen des kooperativen Handelns im Kunden-/Lieferantenverhältnis deutlich.
Freitextantwort 15a (Frage 15 = “Sonstiges”)
Die Antworten zeigen, dass sich die Teilnehmer mit den vielfältigen Aspekten, die im Kontext von Grundsätzen stehen
könnten, befassen.
_ _
© TrustKI | if(is) 2024 15
Frage 166: Über welche weiteren Grundsätze des unternehmerischen Handelns möchten Sie informiert werden?
Die hohe Zustimmung zu der Aussage, dass der KI-Anbieter sich mit den ethischen Werten – wie Solidarität und Fairness
– der Gesellschaft konstant auseinandersetzt und diese auch einhält zeigt, dass die Teilnehmer sich mit den
Implikationen, die aus dem Einsatz von KI resultieren können mittlerweile insgesamt umfassender auseinandersetzen.
Diese Ergebnisse stehen auch im Weiteren in Beziehung mit jenen im Forschungsbericht unter “Holistische Perspektive
der Transparenz – Auswertung von relevanten Parametern”7. So gaben in Bezug auf die Trainingsdaten knapp 60 Prozent
(Top 1) der befragten Teilnehmer an, dass sie Informationen darüber erhalten wollen, ob das Handling der
Trainingsdaten gemäß ethischen Grundsätzen verläuft und die Anforderungen bezüglich Fairness und Gerechtigkeit
erfüllt werden.
Frage 17: In welchem Umfang möchten Sie über die ethischen Grundprinzipien des KI-Herstellers sowie zu den Details der
Umsetzung – beispielsweise bezüglich Fairness und Solidarität – in der KI-Lösung informiert werden?
Im Prinzip besteht seitens der Teilnehmer vorrangig der Bedarf (43,3 Prozent) daran, dass die KI-Anbieter ihre
Kernbotschaft nicht nur in vier bis fünf Sätzen darlegen, sondern sie sind ebenfalls daran interessiert, dass diese
7 Siehe Forschungsbericht zur Anwender-Studie TrustKI, S. 16-19.
6 Hier wurden drei Einzelfragen zusammengefasst.
_ _
© TrustKI | if(is) 2024 16
daneben auch aktuell in der Gesellschaft diskutierte Themen berücksichtigen. Dessen ungeachtet ist es – wie das
Ergebnis zur Frage 26 zeigt – für den Großteil der Teilnehmer (75,1 Prozent – Top 2) ebenso relevant, dass ein KI-Anbieter
einen prägnanten Kernsatz formuliert, der als Versprechen zu werten ist.
Freitextantwort 17a (Frage 17 = “Sonstiges”)
Die Antworten zeigen, dass die Teilnehmer den KI-Anbieter klar in der Pflicht sehen, wohlwollend zu agieren und dafür
auch Nachweise verlangen.
Frage 18: Welche Facetten der ethischen Grundprinzipien sollten Ihrer Ansicht nach in der Darstellung insbesondere
berücksichtigt werden?
Der hohe Informationsbedarf – signalisiert durch den höchsten Zustimmungswert von 72,6 Prozent (Top 1) – bezüglich
der Frage “Ob und wie sichergestellt wird, dass bei der Nutzung der KI-Lösung ein Anwender die Kontrolle über die
Abgabe seiner Daten behält” zeigt ein weiteres Mal, dass die Entscheidungsfreiheit über den individuellen Grad der
Privatheit eine hohe Relevanz für die Teilnehmer hat. Obwohl die “Sicherstellung der Privatheit” insgesamt nicht den
_ _
© TrustKI | if(is) 2024 17
höchsten Zustimmungswert erreicht, sollte an dieser Stelle nicht unerwähnt bleiben, dass insbesondere Teilnehmer, die
das Grundkonzept der KI verstehen und jene, die über solide Kenntnisse verfügen im Gegensatz zu den Experten
nachweislich einen höheren Informationsbedarf bezüglich des verantwortungsvollen Umgangs mit der Technologie unter
dem Aspekt der Privatheit haben. Gleiches gilt für Teilnehmer, die noch keine KI im Unternehmen einsetzen. Eine
detaillierte Deskription diesbezüglich steht im Forschungsbericht unter “Spezielle Aspekte im Kontext der Definition von
Vertrauen und Vertrauenswürdigkeit” – Wohlwollen.8
Freitextantwort 18a (Frage 18 = “Sonstiges”)
8 Siehe Forschungsbericht zur Anwender-Studie TrustKI, S. 25-26.
_ _
© TrustKI | if(is) 2024 18
Frage 19: Möchten Sie wissen, wie der KI-Hersteller die Anforderungen der Gesellschaft bezüglich Ethik konkret umsetzt?
Frage 19a: Welche Informationen sind dabei für sie von besonderer Relevanz?
Wie in der Grafik zu Frage 16 ersichtlich, erachten 85 Prozent der Teilnehmer es als wichtig und sehr wichtig (Top 2), dass
die KI-Anbieter sich konstant mit den ethischen Werten der Gesellschaft auseinandersetzen. Zwei Ergebnisse zeigen,
dass hier explizite Forderungen an die KI-Anbieter gestellt werden: zum einen die Erbringung von Nachweisen bezüglich
der Umsetzung (77,6 Prozent) und noch konkreter die Etablierung von Ethik-Gremien (48,3 Prozent), mittels derer diese
zu gewährleisten ist. Insbesondere Teilnehmer mit umfangreichen KI-Kenntnissen haben einen hohen
Informationsbedarf dahingehend, mit welchen Maßnahmen der KI-Anbieter den ethischen Anforderungen der
Gesellschaft nachkommt. Eine detaillierte Deskription diesbezüglich steht im Forschungsbericht unter “Spezielle Aspekte
im Kontext der Definition von Vertrauen und Vertrauenswürdigkeit” – Integrität.9
Freitextantwort 19b (Frage 19 = “Sonstiges”)
9 Siehe Forschungsbericht zur Anwender-Studie TrustKI, S. 25.
_ _
© TrustKI | if(is) 2024 19
Frage 20: Wie hoch ist Ihr Vertrauensverlust, wenn der KI-Hersteller sich nicht über den gesamten Lebenszyklus der
KI-Lösung an seine anfangs festgelegten (ethischen) Werte und die dafür entsprechend definierten Regeln hält?
Der hohe Zustimmungswert von insgesamt 81,1 Prozent (Top 2) lässt sich dahingehend interpretieren, dass das
Aufrechterhalten der Vertrauenswürdigkeit von KI-Anbietern ein kontinuierlicher Prozess sein muss.
Frage 21: Möchten Sie etwas über die Prozesse erfahren, die der KI-Hersteller etabliert hat, um zu gewährleisten, dass
sich kein Mitarbeiter gegen die festgelegten (ethischen) Werte und Regeln hinwegsetzen kann?
Frage 21a: Welche Informationen sind dabei für sie von besonderer Relevanz?
_ _
© TrustKI | if(is) 2024 20
Da die Umsetzung ethischer Werte – ebenso wie im Kontext der IT-Sicherheit – in hohem Maße von dem Engagement des
einzelnen Mitarbeiters abhängt, ist es nachvollziehbar, dass seitens der Teilnehmer hier ein hoher Informationsbedarf
bezüglich entsprechender Prozesse besteht. Insbesondere für Teilnehmer mit umfangreichen KI-Kenntnissen ist es
relevant, dass diese auch in Form einer transparenten Dokumentation zur Verfügung gestellt werden. Eine detaillierte
Deskription diesbezüglich steht im Forschungsbericht unter “Spezielle Aspekte im Kontext der Definition von Vertrauen
und Vertrauenswürdigkeit” – Integrität.10
Freitextantwort 21b (Frage 20 = “Sonstiges”)
Frage 22: Der KI-Hersteller ist bereit Auskunft darüber zu geben, was er unternimmt, um physische, psychische oder
finanzielle Schädigungen der Anwender (zum Beispiel „Abkapseln von der Umwelt durch übermäßigen Gebrauch von
Chatbots”), die bei der Nutzung seiner KI-Lösung auftreten könnten, abzuwenden. Möchten Sie darüber informiert
werden?
10 Siehe Forschungsbericht zur Anwender-Studie TrustKI, S. 25.
_ _
© TrustKI | if(is) 2024 21
Die hohe Zustimmung von 68 Prozent zeigt, dass die Teilnehmer eine wohlwollende Einstellung von Seiten der
KI-Anbieter erwarten. Ein Handeln im Sinne der Anwender ist allein aufgrund der Komplexität der Technologie
notwendig, um diesen ein Gefühl der Sicherheit bei der Nutzung einer KI-Lösung zu vermitteln.
Frage 23: Welche Angaben sind für Sie dabei besonders wichtig?
Hier zeigt sich, dass es für die Teilnehmer elementar ist, dass KI-Anbieter ihrer Verantwortung – die sie der Gesellschaft
gegenüber beim Inverkehrbringen von KI-Lösungen haben – nachkommen. Insbesondere die hohe Zustimmung (54,9
Prozent – Top 1) bezüglich der Folgenabschätzung sowie zur zielgruppengerechten Aufklärung über potenzielle Folgen
(53,2 Prozent – Top 1) signalisiert, dass von den KI-Anbietern die Einhaltung ihrer Sorgfaltspflicht erwartet wird.
_ _
© TrustKI | if(is) 2024 22
Frage 24: Sollte der KI-Hersteller Ihnen erläutern, welche Konflikte bei der Entwicklung sowie dem Inverkehrbringen der
KI-Lösung entstehen können, zum Beispiel dass aufgrund ethischer Aspekte – wie Privatheit – eine
Anwenderfreundlichkeit nicht im eigentlich gewünschten Maße umsetzbar ist?
Frage 24a: Welche Informationen sind dabei für sie von besonderer Relevanz?
_ _
© TrustKI | if(is) 2024 23
Auch im Kontext der Konflikte, die bei der Entwicklung sowie dem Inverkehrbringen der KI-Lösung entstehen können,
zeigt sich, dass die Teilnehmer den größten Wert darauf legen, hinsichtlich möglicher Problemstellungen bezüglich der
Privatheit entsprechend informiert zu werden. Beachtenswert scheint hier allerdings, dass diese Auskunft für
Teilnehmer, die noch keine KI im Einsatz haben, weniger interessant ist – diese sehen vorrangig Konflikte zwischen der
Umsetzung ethischer Werte und ökonomisch sinnvollem Handeln. Eine detaillierte Deskription diesbezüglich steht im
Forschungsbericht unter “Spezielle Aspekte im Kontext der Definition von Vertrauen und Vertrauenswürdigkeit” –
Integrität.11
Freitextantwort 24b (Frage 21 = “Sonstiges”)
Frage 25: Möchten Sie wissen, auf welchem Wege der KI-Hersteller sicherstellt, dass seine Mitarbeiter die vorgegebenen
ethischen Werte umsetzen (können)?
11 Siehe Forschungsbericht zur Anwender-Studie TrustKI, S. 25.
_ _
© TrustKI | if(is) 2024 24
Frage 25a: Welche Informationen sind dabei für sie von besonderer Relevanz?
Dass Voraussetzungen seitens der KI-Anbieter geschaffen werden müssen, allen Mitarbeitern zu ermöglichen, die
vorgegebenen ethischen Werte umsetzen zu können, ist für den Großteil der Teilnehmer (74,9 Prozent) nachvollziehbar.
Von daher lässt sich erklären, dass 42,6 Prozent (Top 1) in diesem Kontext an den Fakten über die Handlungsvorgaben im
Code-of-Conduct interessiert sind – auch hier tendenziell mehr Teilnehmer aus Unternehmen, die über umfangreiche
Kenntnisse im Bereich KI verfügen. Eine detaillierte Deskription diesbezüglich steht im Forschungsbericht unter
“Spezielle Aspekte im Kontext der Definition von Vertrauen und Vertrauenswürdigkeit” – Integrität.12
Freitextantwort 25b (Frage 25 = “Sonstiges”)
Frage 26: Wie wichtig ist es für Sie, dass der KI-Hersteller Ihnen seine Werte und Handlungsweise prägnant in einem Satz
als Kernbotschaft mitteilt?
12 Siehe Forschungsbericht zur Anwender-Studie TrustKI, S. 25.
_ _
© TrustKI | if(is) 2024 25
Der hohe Bedarf – erkennbar an dem Zustimmungswert von 75,1 Prozent (Top 2) – der Teilnehmer nach einem zentralen
Satz, in dem die Werte und Handlungsweise eines KI-Anbieters zusammengefasst dargelegt sind, lässt darauf schließen,
dass diese Kernbotschaft als verbindliche Aussage beziehungsweise Commitment verstanden wird.
Frage 27: Genügen Ihnen die oben aufgeführten Informationen, um sicher zu sein, dass der KI-Hersteller prinzipiell in der
Lage ist alle Versprechen, die er abgegeben hat, einhalten zu können und auch tatsächlich einhält sowie generell dazu
bereit ist sowohl Normen als auch Werte der Gesellschaft zu berücksichtigen?
Obwohl die überwiegende Mehrheit der Teilnehmer bestätigt, dass die aufgeführten Informationen zum
Vertrauenswürdigkeits-Aspekt Integrität ausreichen, signalisieren die Antworten im Freitext die Notwendigkeit, dass
KI-Anbieter nicht nur in der Lage sein müssen alle Versprechen – die sie im Rahmen der Integritäts-Maxime niedergelegt
haben – einzuhalten, sondern dies per se auch faktisch bereit sind zu tun.
Freitextantwort 27a (Frage 27 = “Nein”)
4. IT-Sicherheit
.. und hier insbesondere das Anerkennen der maßgeblichen Bedeutung der IT-Sicherheit ist geboten, damit KI-Lösungen
risikoarm zu nutzen sind. Dieser Anspruch ist jedoch (noch) eine Fiktion, da viele Anwendungen bei Weitem nicht den
Level an IT-Sicherheit und Vertrauenswürdigkeit bieten, der notwendig ist, um KI-Lösungen in kritischen
Geschäftsprozessen unbedenklich einsetzen zu können.
_ _
© TrustKI | if(is) 2024 26
.. ist notwendig zur risikoarmen Nutzung von KI-Lösungen. Daher benötigen KI-Anbieter eine adäquate und
ausformulierte IT-Sicherheits-Richtlinie, um im Sinne der Anwender den bestmöglichen Schutz zu gewährleisten. Eine
kontinuierliche Umsetzung gemäß aktueller IT-Sicherheitsanforderungen ist hierbei notwendig, da Anwender im
Allgemeinen nicht dazu in der Lage sind, sich adäquat zu schützen.
Eine grundsätzliche Einschätzung der Bedeutung der IT-Sicherheit im Kontext von Vertrauenswürdigkeit finden Sie im
Forschungsbericht unter “Die Bedeutung der IT-Sicherheit im Kontext der Vertrauenswürdigkeit”.
Um zu ermitteln, welche Informationen der KI-Anbieter im Rahmen des Vertrauenswürdigkeits-Aspekt IT-Sicherheit für
die Anwender relevant sind, wurden in der Studie die nachfolgenden Fragen gestellt.
Frage 28: Bitte bewerten Sie die Relevanz der folgenden Aussagen zu Management und Organisation der
Informationssicherheit des KI-Herstellers.
Auskünfte zur IT-Sicherheit als integraler Bestandteil der Unternehmenskultur werden mit einer Zustimmung von 73,5
Prozent – dem höchsten Zustimmungswert in Top 1 – als wichtigste Information in Bezug auf Management und
Organisation der IT-Sicherheit bewertet. Hieran lässt sich das Bewusstsein der Teilnehmer bezüglich der Risiken und
Folgen von Cyber-Bedrohungen sowie deren direkte Auswirkungen auf Hersteller und Anwender erkennen.
_ _
© TrustKI | if(is) 2024 27
Frage 29: Bitte bewerten Sie die Relevanz der folgenden Aussagen zu den Maßnahmen des KI-Herstellers bezüglich
IT-Sicherheit und Privatsphäre.
Angaben zum Schutz der IT-Infrastruktur durch wirksame Maßnahmen sind für die Teilnehmer mit 96,1 Prozent und dem
höchsten Zustimmungswert in Top 2 die wesentliche Information. Durch die Darstellung der IT-Sicherheitsstrategie sowie
den umgesetzten Maßnahmen zum Schutz der IT-Infrastruktur bietet der KI-Anbieter eine transparente
Überprüfungsmöglichkeit seiner Unternehmenskultur.
Frage 30: Bitte bewerten Sie die Relevanz der folgenden Aussagen zu schadensreduzierenden Maßnahmen des
KI-Herstellers.
Einen Notfallplan, um in kritischen Situationen handlungsfähig bleiben zu können, bewerten 95,7 Prozent der Teilnehmer
als wichtigste schadensreduzierende Maßnahme des KI-Anbieters. Die Erstellung eines Notfallkonzepts zeigt allgemein,
dass Hersteller-Unternehmen mit dem Gefahrenpotential von Cyber-Angriffen vertraut sind und entsprechend
Verantwortung übernehmen, durch proaktives Handeln bestmöglich Schaden von den Anwendern abzuwenden.
_ _
© TrustKI | if(is) 2024 28
Frage 31: In welche Bereiche der IT-Sicherheit sollte der KI-Hersteller investieren, um langfristig seine
Wettbewerbsfähigkeit zu erhalten?
Die Teilnehmer bewerten die IT-Sicherheit der KI-Lösung als wesentliches Investment im Bereich der IT-Sicherheit zur
Gewährleistung der langfristigen Wettbewerbsfähigkeit des KI-Anbieters. Datensicherheit und IT-Sicherheit von
KI-Systemen sowie Trainingsdaten spielen für die Teilnehmer eine zentrale Rolle bei der Beurteilung der
Vertrauenswürdigkeit einer KI-Lösung. Nachvollziehbar ist, dass hier auch der Unerlässlichkeit von Cloud-Sicherheit ein
hoher Stellenwert eingeräumt wird
Frage 32: Würden Sie sich eher für einen KI-Hersteller entscheiden, wenn er im Vergleich zum Wettbewerb mehr in
IT-Sicherheit investiert?
86,7 Prozent der Teilnehmer würden sich für einen KI-Hersteller entscheiden, der höhere Investitionen in die IT-Sicherheit
tätigt als im Durchschnitt üblich. Insbesondere für Teilnehmer, die sich mit dem Einsatz von KI in ihrem Unternehmen
beschäftigen, ist dies ein bedeutendes Entscheidungskriterium. Die detaillierte Deskription diesbezüglich steht im
Forschungsbericht unter “Spezielle Aspekte im Kontext der Definition von Vertrauen und Vertrauenswürdigkeit” –
Wohlwollen.13
13 Siehe Forschungsbericht zur Anwender-Studie TrustKI, S. 26.
_ _
© TrustKI | if(is) 2024 29
Freitextantwort 32a (Frage 32 = “Ja, weil”)
Die Freitexte zum IT-Sicherheitsbudget verdeutlichen die Relevanz der IT-Sicherheit und eine entsprechende
Interdependenz mit Vertrauen. Ein Großteil der Teilnehmer assoziiert mit überdurchschnittlichen IT-Sicherheitsausgaben
ein höheres Schutzniveau des KI-Anbieters und projiziert dies auch auf die KI-Lösung sowie im Weiteren auf seine eigene
Sicherheit und die seiner Kunden. Zudem werden damit positive Attribute wie Zuverlässigkeit, Stabilität,
Vertrauenswürdigkeit und ein Gefühl von Sicherheit direkt in Verbindung gebracht.
Freitextantwort 32a (Frage 32 = “Nein, weil”)
Einige Teilnehmer verweisen auf das Nichtvorhandensein eines kausalen Zusammenhangs zwischen
IT-Sicherheitsausgaben und der tatsächlichen Effektivität von Maßnahmen. Hier herrscht die Meinung vor, dass die
faktische Wirksamkeit höherer Ausgaben ohne Hintergründe bezüglich deren Priorisierung nicht bewertet werden kann.
Einem KI-Anbieter mit überdurchschnittlichem IT-Sicherheitsbudget wird nur dann eine höhere Vertrauenswürdigkeit
zugesprochen, wenn dieser transparent und nachvollziehbar die tatsächliche Verwendung der getätigten Investitionen
darlegt.
_ _
© TrustKI | if(is) 2024 30
Frage 33: Genügen Ihnen die oben aufgeführten Informationen, um darauf zu vertrauen, dass der KI-Hersteller alle
Maßnahmen ergreift, um sein eigenes Unternehmen, die KI-Lösung – sowohl während der Entwicklung als auch im
Einsatz – und auch Ihren Sicherheitsbedarf angemessen zu erfüllen?
94,2 Prozent der Befragten genügt das Vorhandensein der oben aufgeführten Informationen, um eine vertrauensvolle
Entscheidung im Hinblick auf die Unternehmenssicherheit treffen zu können.
Freitextantwort 33a (Frage 33 = “Nein”)
_ _
© TrustKI | if(is) 2024 31
5. KI-Lösung
5.1 Vertrauenswürdigkeits-Aspekt: Transparenz der KI-Lösung
.. bedeutet, alle wesentlichen Informationen zur Verfügung zu stellen, die für den Anwender erforderlich sind, um im
gegebenen Kontext eine informierte und somit valide Entscheidung über die Vertrauenswürdigkeit der KI-Lösung treffen
zu können. Dies ist ein wichtiger Punkt, denn aufgrund der zunehmenden Komplexität der Technologie wird es für
Anwender immer wichtiger, dass ihre jeweiligen Bedürfnisse angemessen durch die KI-Lösung abgebildet werden.
.. bieten KI-Anbieter, indem sie in einem bedarfsorientierten Transparenz-Register alle – für den Anwender – relevanten
Parameter der KI-Lösung darlegen. Um zu ermitteln, welche Informationen der KI-Anbieter im Rahmen des
Vertrauenswürdigkeits-Aspekt Transparenz der KI-Lösung für die Anwender relevant sind, wurden in der Studie die
nachfolgenden Fragen gestellt.
Frage 34: Wie wichtig ist es Ihnen, dass Sie im Vorfeld über die folgenden Risiken durch den Einsatz der KI-Lösung
informiert werden?
Wie sich bereits mehrfach im Rahmen der Anwender-Studie gezeigt hat, spielt das Thema Daten eine fundamentale
Rolle. Von daher ist es nachvollziehbar, dass ein großes Interesse (68,6 Prozent – Top 1) seitens der Teilnehmer daran
besteht, im Vorfeld darüber informiert zu werden, ob potenziell ein Risiko hinsichtlich dem Abfluss beziehungsweise dem
Ausspähen von kritischen Daten besteht. Als nahezu ebenso essentiell (62,6 Prozent – Top 1) sehen es die Teilnehmer an,
vorab mehr über die Risiken bezüglich der Verletzung der physischen, psychischen und finanziellen Unversehrtheit zu
erfahren. Der entsprechende Bedarf hinsichtlich einer diesbezüglichen Auskunftspflicht wurde bereits an anderer Stelle
(Frage 22) deutlich – hier gab es einen Zustimmungswert von 68 Prozent.
_ _
© TrustKI | if(is) 2024 32
Frage 35: Sind Ihnen folgende Autonomiegrade bereits bekannt?
Hierbei wird unterschieden zwischen:
Empfehlung / Assistenz Autonom mit Eingriffsmöglichkeit Autonom ohne Eingriffsmöglichkeit
Eine KI-Lösung gibt Empfehlungen und ein
Mensch trifft weiterhin die Entscheidung
und ist verantwortlich.
Eine autonome KI-Lösung wird durch
einen Menschen überwacht. Bei Problemen dient
der Mensch als Fallback und kann eingreifen.
Überwachung und Intervention durch
einen Menschen ist nicht notwendig
oder nicht möglich.
Frage 36: Wie wichtig ist Ihnen, dass der KI-Hersteller Sie darüber informiert, was Sie bei den verschiedenen
Autonomiegraden beachten müssen?
Frage 37: Wie detailliert möchten Sie über die Verarbeitungslogik einer KI-Lösung informiert werden?
Korrespondierend zu den Kenntnissen der Teilnehmer – die in der Mehrzahl über keine umfangreichen Kenntnisse
verfügen – besteht hauptsächlich der Bedarf, die Verarbeitungslogik nur so weit zu verstehen, dass sie eine für sie
angemessene Sicherheit bezüglich der Ergebnisse haben können.
_ _
© TrustKI | if(is) 2024 33
Frage 38: Möchten Sie im Einzelfall nachvollziehen können, wie ein Ergebnis zustande gekommen ist?
Freitextantwort 38a: Wieso ist die Nachvollziehbarkeit für Sie wichtig? (Frage 37 = “Ja”)
In Bezug auf das Thema Nachvollziehbarkeit sind sich die Teilnehmer größtenteils einig. Vertrauen und Verstehen
korrelieren stark miteinander. Unter anderem besteht der Bedarf nach Transparenz in der Darstellung der
Verarbeitungslogik – ein tieferes Verständnis der KI-Lösung ermöglicht Vertrauen aufbauen zu können. Zudem haben
diese Informationen teilweise auch eine Relevanz hinsichtlich des adäquaten Einsatzes von KI. Dabei spielen vorrangig
die Fehlererkennung und -korrektur eine entscheidende Rolle sowie eine darauf basierende Handlungsfähigkeit der
Anwender im Störfall.
Frage 39: Über welche Aspekte der Trainingsdaten möchten Sie informiert werden?
Aufgrund der Tatsache, dass die Bedeutung von Trainingsdaten mittlerweile sehr stark in der breiten Öffentlichkeit
kommuniziert wurde, lässt sich erklären, dass 89,0 Prozent der Anwender generell über die Trainingsdaten informiert
_ _
© TrustKI | if(is) 2024 34
werden möchten. Eine detaillierte Deskription diesbezüglich steht im Forschungsbericht unter “Holistische Perspektive
der Transparenz – Auswertung von relevanten Parametern” – Trainingsdaten.14
Frage 40: Können sich durch das Inverkehrbringen von KI-Lösungen ethische Probleme ergeben?
Frage 41: Welche ethischen Werte können dazu beitragen, dass Sie Vertrauen zu der KI-Lösung aufbauen können?
Transparenz ist von extrem hoher Relevanz im Kontext der Integrität von KI-Lösungen. Dies gilt umfassend – sowohl im
Sinne eines ethischen Wertes, niedergelegt in den Compliance-Vorgaben oder bezüglich der Nachvollziehbarkeit einer
KI-Lösung. Die Teilnehmer fordern, dass die KI-Anbieter eine Vielzahl an Informationen preisgeben, damit sie diesen
vertrauen können. Darüber hinaus wird ein immenses Spektrum von Werten abgebildet, die sich mehrheitlich auf
dedizierte Bedürfnisse der Menschen sowie Fairness, Gerechtigkeit und Nicht-Diskriminierung beziehen. Eine detaillierte
Deskription diesbezüglich steht im Forschungsbericht unter “Holistische Perspektive der Transparenz – Auswertung von
relevanten Parametern”.
14 Siehe Forschungsbericht zur Anwender-Studie TrustKI, S. 19.
_ _
© TrustKI | if(is) 2024 35
Frage 42: In welchen Anwendungsbereichen sehen Sie die größten ethischen Herausforderungen?
Bezüglich der Fragestellung, bei welchen Anwendungsbereichen der KI die Anwender die größten ethischen
Herausforderungen sehen, zeigen sich klare Tendenzen. Bei Bereichen, in denen durch den Einsatz von KI für den
Einzelnen potenziell ein Mehrwert entstehen kann und hierdurch ein nicht zu hohes persönliches Risiko eingegangen
wird – wie etwa zur Unterstützung von Krebsdiagnosen – zeigt sich eine große Akzeptanz. Als moralisch nicht vertretbar
werden hingegen Anwendungsbereiche gesehen, die aufgrund von KI pauschalisierende Ergebnisse liefern mit wenig
Eingriffs- beziehungsweise Korrekturmöglichkeiten durch den Menschen – wie etwa die Vorhersage von Straftaten – was
unmittelbar zu negativen Konsequenzen führen kann.
_ _
© TrustKI | if(is) 2024 36
5.2 Vertrauenswürdigkeits-Aspekt: Leistungsfähigkeit der KI-Lösung
.. kann bei der Nutzung unmittelbar erfasst und auch kontrolliert werden. Daher ergeben sich daraus die messbaren
Kriterien für eine Beurteilung, inwieweit Anwender sich bei der Erreichung des beabsichtigten Einsatzzweckes
unterstützt fühlen und wie gut die KI-Lösung tatsächlich dafür geeignet ist. Dieser Aspekt wird in der Regel von
Unternehmen im Allgemeinen bereits grundsätzlich gut ausgeführt, da er für die Vermarktung sehr relevant ist.
.. bedeutet, dass alle wichtigen Parameter der KI-Lösung wie beispielsweise intuitive Bedienbarkeit oder bestimmte
IT-Sicherheitsmaßnahmen zusammen mit eventuellen (leistungsmindernden) Nebeneffekten in einem
Leistungs-Verzeichnis zur Verfügung gestellt werden.
Um zu ermitteln, welche Informationen der KI-Anbieter im Rahmen des Vertrauenswürdigkeits-Aspekt Leistungsfähigkeit
der KI-Lösung für die Anwender relevant sind, wurden in der Studie die nachfolgenden Fragen gestellt.
Frage 43: Welche informationstechnischen Sicherheitsrisiken würden Sie am ehesten davon abhalten, eine KI-Lösung
einzusetzen?
Wie sich bereits in Frage 34 und auch an weiteren Stellen gezeigt hat, bestehen momentan die größten Bedenken
bezüglich der Daten- und IT-Sicherheit. Die geringe Bedeutung, die aktuell der Verfügbarkeit beigemessen wird, lässt sich
dadurch erklären, dass der Einsatz der KI-Lösungen größtenteils noch nicht unternehmenskritisch ist. Das wird sich in
absehbarer Zukunft ändern.
_ _
© TrustKI | if(is) 2024 37
Frage 44: Wie wichtig ist es für Sie, dass der KI-Hersteller Nachweise unabhängiger Dritter (z.B. TÜV) über seine KI-Lösung
zu den folgenden Themen zur Verfügung stellt?
Anhand der hohen Zustimmung ist klar erkennbar, dass die Teilnehmer Wert darauf legen, dass ihnen Nachweise
bezüglich bestimmter Parameter der KI-Lösung, die sie schwerlich selbst überprüfen können, von unabhängigen Dritten
zur Verfügung gestellt werden.
_ _
© TrustKI | if(is) 2024 38
Frage 45: Bei welchen Anwendungsbereichen von KI haben Sie die größten Bedenken hinsichtlich potenzieller Risiken?
Bemerkenswert ist, dass die Einschätzung der Anwendungsbereiche der KI zum einen bezüglich der größten ethischen
Herausforderung (Frage 41) sowie zum anderen bezüglich der potenziellen Risiken nahezu identisch bewertet wurden.
_ _
© TrustKI | if(is) 2024 39
5.3 Vertrauenswürdigkeits-Aspekt: Zweckprägnanz der KI-Lösung
.. manifestiert sich in deren Verwendungszweck. Dies bedeutet, dass bei der Entwicklung von Funktionen die Intention
der KI-Lösung zielgenau definiert ist. Bietet eine KI-Lösung neben der eigentlichen Anwendung weitere Funktionen, die
nur im Sinn des KI-Anbieters oder dritter Parteien sind, ist es im Sinne der Vertrauenswürdigkeit notwendig, diese klar
darzustellen und eindeutig zu beschreiben.
.. legt den Verwendungszweck der KI-Lösung fest. Die beschreibenden Parameter wie beispielsweise das
Geschäftsmodell werden dann in einem Aufgaben-Katalog definiert. Hierbei ist zu beachten, dass ein Hinzufügen neuer
Features bei einer KI-Lösung die Fortschreibung des Aufgaben-Katalogs bedingt.
Um zu ermitteln, welche Informationen im Rahmen des Vertrauenswürdigkeits-Aspekt Zweckprägnanz der KI-Lösung für
die Anwender relevant sind, wurden in der Studie die nachfolgenden Fragen gestellt.
Frage 46: Welche Informationen zum Verwendungszweck einer KI-Lösung sind wichtig, damit Sie dieser vertrauen
können?
Die Ergebnisse zeigen, dass insgesamt im Rahmen der Zweckprägnanz ein hoher Bedarf an holistischer Transparenz
besteht – dies manifestiert sich an dieser Stelle am Verwendungszweck (96,9 Prozent – Top 2). Die detaillierte
Deskription diesbezüglich steht im Forschungsbericht unter “Vertrauensfähigkeit und institutionelles Vertrauen –
Auswertung grundlegender Parameter ” – Aspekt Wertekodex – Einhaltung essentieller Werte.
_ _
© TrustKI | if(is) 2024 40
Frage 47: Ich möchte wissen, ob im Rahmen des Einsatzes einer KI-Lösung die Privatheit zum Beispiel durch AGBs
ausgehebelt werden kann, wodurch der KI-Hersteller das Recht zum Verkauf von Daten an Dritte erhalten könnte.
Die hohe Relevanz, die hier der Privatheit zugesprochen wird, zeigt sich hier deutlich. Die detaillierte Deskription
diesbezüglich steht im Forschungsbericht unter “Spezielle Aspekte im Kontext der Definition von Vertrauen und
Vertrauenswürdigkeit” – Aspekt Wohlwollen.
Frage 48: Decken die oben aufgeführten Informationen alle relevanten Faktoren ab, um Ihnen eine valide Grundlage für
Ihre Entscheidungsfindung zu bieten?
_ _
© TrustKI | if(is) 2024 41
6. Abschlussfragen
Da im Kontext von Studien zum Vertrauen das Vertrauenslevel relevant ist, wurde dieses auf Grundlage der, allgemein
anerkannten, drei institutionellen Vertrauensfragen am Ende des Fragebogens ermittelt. Diese haben insgesamt fünf
Ausprägungen, wodurch zwischen einem und fünf Punkten vergeben werden kann. Mittels Addition der Punkte wird das
Vertrauenslevel ermittelt. Insgesamt verfügen 95 Prozent der Teilnehmer der Anwender-Studie über ein Maß an
Vertrauensfähigkeit, das ihnen ermöglicht, Vertrauen aufzubauen.
Frage 49: Welchen der folgenden Aussagen stimmen Sie zu, beziehungsweise nicht zu?
Bitte bewerten Sie die folgenden Aussagen:
Frage 49a: Ich bin davon überzeugt, dass die meisten Menschen gute Absichten haben.
Frage 49b: Heutzutage kann man sich auf niemanden mehr verlassen.
Frage 49c: Im Allgemeinen kann man den Menschen vertrauen.
_ _
© TrustKI | if(is) 2024 42
Frage 49d: Ich misstraue KI-Herstellern grundsätzlich.
Frage 49e: Ich habe grundsätzlich Vertrauen in KI-Lösungen.
Frage 50: Bei der Entscheidung für eine KI-Lösung: Wie viel mehr wären Sie bereit für eine KI-Lösung zu bezahlen, wenn
sowohl der KI-Hersteller als auch die gewählte KI-Lösung aus Ihrer Sicht nachweislich vertrauenswürdig ist?
Die Ergebnisse zeigen deutlich, dass Anwender in der Vertrauenswürdigkeit einen Mehrwert sehen und bereit sind, dafür
einen Aufpreis zu leisten. Im Rahmen der Anwender-Studie TrustKI konnte auch nachgewiesen werden, dass durch die –
aus Sicht des Anwenders – hinreichende Begründung hinsichtlich seiner relevanten Aspekte, er den Wert der
Vertrauenswürdigkeit des KI-Anbieters entsprechend honorieren würde, weil diese für ihn einen Mehrwert darstellt.
Eine detaillierte Deskription diesbezüglich steht im Forschungsbericht unter “Der Wert der Vertrauenswürdigkeit”15
15 Siehe Forschungsbericht zur Anwender-Studie TrustKI, S. 27-28.
_ _
© TrustKI | if(is) 2024 43
7. Teilnehmerinformationen
7.1 Fragen zur Teilnehmerin / zum Teilnehmer
T1: Bitte geben Sie Ihr Alter an.
T2: Bitte geben Sie Ihr Geschlecht an.
T3: Welche Rolle oder Zuständigkeit haben Sie in Ihrem Unternehmen?
T4: Wie würden Sie Ihren Kenntnisstand im Bereich der “Künstlichen Intelligenz” (KI) einstufen?
_ _
© TrustKI | if(is) 2024 44
7.2 Fragen zum Unternehmen
U1: Bitte wählen Sie Ihre Unternehmensart aus.
U2: Wie viele Mitarbeiter sind in Ihrem Unternehmen beschäftigt?
U3: In welchem Bundesland ist der Hauptsitz Ihres Unternehmens?
_ _
© TrustKI | if(is) 2024 45
U4: Welcher Branche gehört Ihr Unternehmen an?
U5: Bitte geben Sie Auskunft zum aktuellen Status bezüglich des Einsatzes von KI für unternehmensinterne Zwecke.
U6: Haben Sie sich im Rahmen der Entscheidungsfindung mit Vertrauenswürdigkeit auseinandergesetzt?
U7: Bietet Ihr Unternehmen auch eigene Produkte oder Dienstleistungen mit KI an?
_ _
© TrustKI | if(is) 2024 46