Ein Projekt von:

Institut für Internet-Sicherheit - if(is)

Menschen wollen vertrauen können – auch in der digitalen Welt!

Dieses Bedürfnis haben wir – das Institut für Internet-Sicherheit – erkannt: Wir stellen zukünftig eine Vertrauenswürdigkeit-Plattform zur Verfügung, um den Herstellerunternehmen die Möglichkeit zu bieten, ihren Kunden umfassend alle relevanten Informationen zur Verfügung zu stellen und ihnen darüber zu zeigen, dass alles getan wird, um Schaden von ihnen abzuwenden. So ist es Kunden möglich mit weniger Aufwand Vertrauen aufbauen, weil sie eine informierte Entscheidung treffen können. Vertrauenswürdigkeit und Vertrauen – Hand in Hand – schaffen die Basis für eine gute digitale Zukunft.

Hier geht es um Vertrauen! - It's all about Trust!

Podcasts

In unserer neuesten Podcast-Episode sprechen wir mit dem Experten und Fachanwalt Dr. Lutz Martin Keppeler über die aktuellen Digitalisierungsgesetze, die auf Unternehmen zukommen. Neben dem AI Act beleuchten wir den Data Act, den Cyber Resilience Act und den Data Governance Act. Der Experte erklärt, welche Auswirkungen diese Regelungen auf Unternehmen haben und welche Pflichten sie erfüllen müssen. Hören Sie rein, um zu erfahren, wie diese Gesetze die Handhabung von Daten, die Cybersicherheit und den Datenaustausch beeinflussen und welche Schritte Unternehmen jetzt unternehmen sollten, um compliant zu bleiben.

In der neuesten Folge unseres Podcasts diskutieren wir mit dem Experten und Fachanwalt Dr. Lutz Martin Keppeler über die bevorstehende Umsetzung des AI Acts und dessen Auswirkungen auf Unternehmen. Wir sprechen über die Dringlichkeit, sich auf die neuen Regelungen vorzubereiten. Wir klären, was Hochrisiko-KI ist und welche Unternehmen davon betroffen sein könnten. Lutz Heuking erklärt die Herausforderungen, die Unternehmen dabei haben, sich richtig zu kategorisieren, und betont die Notwendigkeit einer sorgfältigen rechtlichen Beratung. Außerdem beleuchten wir, wie sich der AI Act auf Forschungseinrichtungen auswirkt und welche Besonderheiten es bei international tätigen Unternehmen gibt.

Begleite uns auf eine fesselnde Reise durch die vielschichtige Beziehung zwischen künstlicher Intelligenz und dem Urheberrecht. In unserem Podcast analysieren Ulla Coester, Projektleiterin von Trust KI und Fritz-Ulli Pieper, Fachanwalt für Informationstechnologie, die Auswirkungen von KI auf das Urheberrecht. Sie erörtern die rechtlichen Rahmenbedingungen des Urheberrechts, insbesondere im Hinblick auf die Generierung und Nutzung von Inhalten durch KI-Modelle. Zudem werden Fragen zur Kennzeichnung von KI-generierten Inhalten und zur Haftung für deren Verwendung diskutiert. Sie beleuchten auch die Herausforderungen im Umgang mit Trainingsdaten, insbesondere im Hinblick auf die Verwendung von urheberrechtlich geschützten Inhalten aus dem Internet.

Ulla Coester im Gespräch mit Dr. Rudolf Felix Experte für Künstliche Intelligenz im PSI-Konzern. In dem Podcast werden verschiedene Anwendungen von KI in Industrie-Software diskutiert, insbesondere im Bereich Energieverwaltung und Produktionsoptimierung. Die Technologie des qualitativen Labelings wird erläutert, um auch Nicht-Experten einen Zugang zu Datenanalysen und maschinellem Lernen zu ermöglichen. Die Diskussion um den AI-Act und die Vertrauenswürdigkeit europäischer Unternehmen wird ebenfalls behandelt.

Zielsetzung des Projekts

Das Projekt TrustKI

Ziel des Vorhabens ist es, eine umfassende Vertrauenswürdigkeits-Plattform zu etablieren, die alle notwendigen Aspekte berücksichtigt sowie die gebotenen Erfordernisse erfüllt, damit Anwenderunternehmen Vertrauen in Herstellerunternehmen sowie in deren KI-Lösungen oder Datenräume aufbauen können.
Vertrauenswürdigkeit schafft vertrauen

Die Vertrauenswürdigkeits-Plattform

Nutzer wollen Vertrauen können – in Herstellerunternehmen, deren IT-Lösungen und letztendlich insgesamt in die jeweilige Branche. Dann sind sie auch dazu bereit die angebotenen IT-Lösungen zu nutzen. Mit der Vertrauenswürdigkeits-Plattform bieten wir eine Möglichkeit zum Aufbau eines nachhaltigen Vertrauensverhältnisses.

Vertrauenswürdigkeit schafft vertrauen

Das Vertrauenswürdigkeits-Modell

Mit dem Vertrauenswürdigkeitsmodell lässt sich zum einen der Zusammenhang zwischen Vertrauen und Vertrauenswürdigkeit erklären. Zum anderen macht es transparent, was Herstellerunternehmen tun müssen, damit auf Basis der grundsätzlichen Vertrauensfähigkeit eines Nutzers sein institutionelles Vertrauen mithilfe bestimmter Kriterien der wahrgenommenen Vertrauenswürdigkeit sowohl der IT-Lösung, des Unternehmens und der Domäne gestärkt werden kann.

Die konkrete Aufgabe, die anhand des Vertrauenswürdigkeitsmodells bearbeitet werden kann (und soll), ist somit, die richtigen Maßnahmen zu ergreifen, um das Vertrauen eines Nutzers zu gewinnen. Hierbei spielt die wahrgenommene Vertrauenswürdigkeit eine entscheidende Rolle.

Newsletter

Hier können Sie sich für unseren Newsletter anmelden.

Ergebnisse der Anwender-Studie TrustKI

Unsere Studie zeigt, was aus Sicht von Anwenderunternehmen relevant ist, damit sie einem KI-Anbieter vertrauen können. Allerdings: Der Aufbau eines validen Vertrauensverhältnisses wird nur funktionieren, wenn Anwenderunternehmen und KI-Anbieter diesbezüglich einen Konsens finden, der für beide Seiten vertretbar ist. Beachtenswerte Ergebnisse, was Anwendern wichtig ist:
  • Die befragten Anwenderunternehmen erwarten von KI-Anbietern ein wahrhaftiges Commitment. Nach Ansicht der Teilnehmer hilft eine prägnante und transparente Kernbotschaft, damit KI-Anbieter ihre Vertrauenswürdigkeit glaubwürdig darstellen und nachhaltig manifestieren können.
  • Gleichzeitig müssen die KI-Anbieter ihrer (ethischen) Sorgfaltspflicht nachkommen und im Sinne der Anwender wohlwollend agieren. Dies lässt sich nach Ansicht der Teilnehmer in unterschiedlichen Dimensionen nachweisen. Hierzu gehört beispielsweise, die Durchführung einer Folgenabschätzung dahingehend, ob und in welchem Maße Probleme bei der Nutzung der KI-Lösung auftreten können.
  • Ein durchgängig relevanter Aspekt ist aus Sicht der befragten Anwenderunternehmen die IT-Sicherheit. Die aktuellen Herausforderungen im Rahmen der Nutzung von KI erfordern unter anderem, dass IT-Sicherheit ein integraler Bestandteil der Unternehmenskultur ist.
Hier finden Sie die ausführlichen Studienergebnisse sowie den Forschungsbericht.