Was Anwender von KI-Anbietern erwarten

Was Anwender von KI-Anbietern erwarten

Welche Voraussetzungen müssen erfüllt sein, damit Anwender KI-Anbietern vertrauen können und deren KI-Lösung nutzen? Diese Frage steht im Mittelpunkt des Forschungsprojektes ‘TrustKI’, das Anfang 2023 am Institut für Internet-Sicherheit – if(is) der Westfälischen Hochschule gestartet ist. Erste Antworten liefert eine kürzlich ­abgeschlossene Anwender-Studie

Im Rahmen des –Forschungsprojektes ‘TrustKI’ wurde Ende letzten Jahres eine erste Anwender-Studie TrustKI durchgeführt. Im Fokus stand die Frage, welche Kriterien erfüllt sein müssen, um den Entscheidungsprozess von Führungskräften sowohl hinsichtlich einer KI-Lösung als auch dem entsprechend zuverlässigen KI-Anbieter durch eine Vertrauenswürdigkeits-Plattform für KI-Lösungen grundlegend zu vereinfachen.

Reelles Vertrauensverhältnis

„Ein zentrales Ergebnis unserer Anwender-Studie ist, dass die befragten Anwender und Anwenderinnen dem Aufbau eines reellen Vertrauensverhältnisses basierend auf Vertrauenswürdigkeit eine hohe Bedeutung beimessen,“ so Prof. Norbert Pohlmann, Leiter des ‚Institut für Internet-Sicherheit an der Westfälische Hochschule. Eine Erklärung dafür liegt nach Ansicht von TrustKI-Projektleiterin Ulla Coester auf der Hand: „Die Veränderungen, die mit der Nutzung von KI einhergehen, werden absehbar sowohl die Gesellschaft insgesamt als auch jeden einzelnen Menschen zunehmend stärker betreffen.“ So würden virtuelle Assistenten wie ChatGPT oder aktuell der KI-Copilot bereits heute zeigen, wie zügig mittlerweile die Marktdurchdringung von KI-Anwendungen vonstattengeht und welche Effekte sich daraus ergeben. Von daher lasse sich leicht nachvollziehen, dass das Bedürfnis der Anwender nach Vertrauenswürdigkeit und damit einhergehend bestimmten Werten heute höher ist denn je.

Ethisch orientiert

Eine ethisch orientierte Handlungsweise der KI-Anbieter wird nachdrücklich gewünscht, wie die Studienergebnisse zeigen. Konkret haben die Befragten klare Anforderungen formuliert, was aus ihrer Sicht für einen nachhaltigen Vertrauensaufbau notwendig ist: Um einen Nachweis ihrer Vertrauenswürdigkeit zu erbringen, müssen KI-Anbieter u.a. verbindlich relevante Kriterien hinsichtlich ‘Integrität‘ erfüllen, was vorrangig beinhaltet, dass alle Kriterien der Vertrauenswürdigkeit und hier insbesondere die ethischen Dimensionen sowie die gebotene Sorgfaltspflicht Berücksichtigung finden. Zudem besteht der Anspruch nach einer ‘holistischen Transparenz‘ – das heißt, die Vertrauenswürdigkeit resultiert nicht mehr einzig aus der Transparenz der KI-Lösung, sondern basiert ebenfalls auf einer transparenten Darstellung der Handlungsweise der KI-Anbieter.

Konkrete Ergebnisse

Da dem Vertrauenswürdigkeits-Aspekt ‘Integrität‘ seitens der Teilnehmer eine hohe Bedeutung beigemessen wurde – nachfolgend dazu einige beachtenswerte Ergebnisse:

• Antworten auf die Frage „auf welchem Wege KI-Anbieter die ethischen Anforderungen der Gesellschaft umsetzen“ zu erhalten, erachten die Teilnehmer als relevant. In diesem Kontext sind sie besonders daran interessiert zu erfahren, ob „ein Ethik-Gremium im Unternehmen etabliert wurde und welche Verantwortung sowie Befugnisse dieses reell hat“.
• Das KI-Anbieter ihre Verantwortung hinsichtlich des Nicht-Schädigungsprinzip anerkennen bzw. umsetzen ist aus Sicht der Teilnehmer allgemein sehr wichtig. So ist es für die Mehrzahl der Teilnehmer substanziell, dass sie darüber informiert werden, auf welche Funktionalitäten der KI-Anbieter zum Wohle des Kunden verzichtet. Ebenso besteht ein hoher Informationsbedarf bezüglich der Folgenabschätzung – hier wollten die Teilnehmer nicht nur mehr darüber erfahren, ob der KI-Anbieter eine Folgenabschätzung vornimmt, sondern auch wie diese umgesetzt wird.

Nachfolgend ausgewählte Ergebnisse zur holistischen Transparenz:

• Im Kontext der holistischen Transparenz wurde seitens der Teilnehmer darauf Wert gelegt, dass sie mehr Informationen zum verantwortungsvollen Umgang mit der Technologie explizit im Kontext der Privatheit erhalten, auch weil dies wesentlich ist im Hinblick auf mögliche Manipulation.
• Auf die Frage, ob der KI-Anbieter erläutern sollte, welche Prozesse er etabliert hat, um zu gewährleisten, dass kein Mitarbeiter gegen die festgelegten (ethischen) Werte und Regeln hinwegsetzen kann gab die Mehrzahl der Befragten an, dass sie dies wissen möchten.

Die kompletten Ergebnisse der Anwender-Studie TrustKI finden Sie hier. Den Forschungsbericht erhalten interessierte hier.