Ein Projekt von:

Institut für Internet-Sicherheit - if(is)

Unser Blog

Aktuelles

Bild zu EU-Datenraum: Einigung erzielt - Starke Patientenrechte und Forschungsförderung

Das Europäische Parlament und der Rat der Europäischen Union haben am 15. März 2024 nach langjährigen Verhandlungen eine Einigung über die Ausgestaltung des Europäischen Gesundheitsdatenraums (European Health Data Space, EHDS) erzielt. Die EU-Kommission machte deutlich, dass diese Einigung ein zentraler Baustein einer starken Europäischen Gesundheitsunion ist. Patientenrechte gestärkt und Forschung ermöglicht Die Kommission betont, dass die neuen Vorschriften die Bürgerinnen und Bürger in den Mittelpunkt der Gesundheitsversorgung stellen. So haben diese zukünftig die volle Kontrolle über ihre Daten und können EU-weit auf ihre elektronischen Patientenakten zugreifen. Gleichzeitig schafft der EHDS einen soliden Rechtsrahmen für die Weiterverwendung von Gesundheitsdaten für Forschungszwecke, […]

Das Europäische Parlament hat mit deutlicher Mehrheit für den AI-Act gestimmt, ein Gesetz zur Regulierung von Künstlicher Intelligenz (KI) in der Europäischen Union. Bei der Abstimmung stimmten 523 Abgeordnete für das Gesetz, 46 dagegen. Es ist die weltweit erste staatliche Regulierung künstlicher Intelligenz.Die Einteilung der RisikoklassenDer AI-Act sieht vor, KI-Systeme in verschiedene Risikoklassen einzuteilen, um entsprechende Regulierungsanforderungen festzulegen. Dabei werden Transparenz und Erklärbarkeit von KI gefordert und bestimmte gefährliche Anwendungen von KI verboten. Hersteller von Hochrisiko-KI-Systemen müssen Konformitätsbewertungen durchführen, um die Einhaltung der Verordnung nachzuweisen. Unternehmen, die gegen die Verordnung verstoßen, müssen mit empfindlichen Geldbußen rechnen. Viele Kritiker der Regelung […]

Künstliche Intelligenz unterstützt bei der Arbeit im Büro, aber die Technologie wird inzwischen intensiv von kriminellen Akteuren und Organisationen eingesetzt. OpenAI und Microsoft müssen feststellen, dass bereits bekannte Gruppen die Dienste für illegale Zwecke einsetzen. OpenAI äußerte sich in einem Blog-Beitrag dazu und geht davon aus, “dass GPT-4 nur begrenzte, zusätzliche Fähigkeiten für böswillige Cybersicherheitsaufgaben bietet, die über das hinausgehen, was bereits mit öffentlich verfügbaren, nicht KI-gestützten Tools erreicht werden kann.” Trotzdem wird in beiden Unternehmen konstant daran gearbeitet, missbräuchlichen Nutzen zu entdecken und zu verhindern. Zusätzlich gab Microsoft in einem Blog-Beitrag an, dass es zu Versuchen von sogenannten “Prompt-Injections” […]

Gesetze

Das Europäische Parlament hat mit deutlicher Mehrheit für den AI-Act gestimmt, ein Gesetz zur Regulierung von Künstlicher Intelligenz (KI) in der Europäischen Union. Bei der Abstimmung stimmten 523 Abgeordnete für das Gesetz, 46 dagegen. Es ist die weltweit erste staatliche Regulierung künstlicher Intelligenz.Die Einteilung der RisikoklassenDer AI-Act sieht vor, KI-Systeme in verschiedene Risikoklassen einzuteilen, um entsprechende Regulierungsanforderungen festzulegen. Dabei werden Transparenz und Erklärbarkeit von KI gefordert und bestimmte gefährliche Anwendungen von KI verboten. Hersteller von Hochrisiko-KI-Systemen müssen Konformitätsbewertungen durchführen, um die Einhaltung der Verordnung nachzuweisen. Unternehmen, die gegen die Verordnung verstoßen, müssen mit empfindlichen Geldbußen rechnen. Viele Kritiker der Regelung […]

Trilog zum AI Act am 6. Dezember 2023

Der AI Act regelt Künstliche Intelligenz Nach langen Verhandlungen haben sich die Unterhändler des EU-Parlaments, des Ministerrats und der Kommission auf die endgültige Fassung des AI-Acts geeinigt. Das weltweit erste umfassende demokratische Regelwerk für Künstliche Intelligenz (KI) steht nun fest und somit dürfte das Gesetz noch vor den Europawahlen im kommenden Juni verabschiedet werden. Jedoch gibt Fritz Pieper, Rechtsanwalt im IT-Recht bei Taylor Wessing in seinem Post auf LinkedIn zu bedenken, „es gibt einen _politischen_ Deal. Es gibt kein offizielles Dokument. Man weiß nicht, wie die Regelungen im Detail aussehen (werden). Viele müssen noch in weiteren Terminen erarbeitet werden. Es […]

EU-Binnenmarktkommissar Thierry Breton ist mit den Verhandlungen zum AI Act unzufrieden

Der AI Act hat mit vielen Widerständen zu kämpfen. Die Verhandlungen über den

Symbolbild Waage und Text AI Act

Der AI Act, auch bekannt als der “Gesetzentwurf der Europäischen Union über künstliche Intelligenz”, ist eine wegweisende Gesetzgebung, die von der Europäischen Union eingeführt wurde, um die Regulierung und den verantwortungsvollen Einsatz von

Veranstaltungen

Professor Norbert Pohlmann

„Die Angreifer, aber das sind sie, verdienen ja auch viel Geld. Die Angreifer machen das sehr professionell. Die nutzen ChatGPT, um besser angreifen zu können oder andere KI-Systeme. Wir als Verteidiger, wir müssen eigentlich noch enger zusammenarbeiten. Also wenn wir unsere sicherheitsrelevanten Informationen teilen würden, dann könnten wir mit KI viel besser Informationen erhalten, wie wir uns entsprechend schützen können“. Professor Norbert Pohlmann Angreifer und Verteidiger von IT-Systemen liefern sich einen ständigen Kampf um die Vorherrschaft. Beide Seiten entwickeln sich ständig weiter und erforschen neue Strategien, sei es zur Ausnutzung oder zum Schutz von IT-Systemen. Vor diesem Hintergrund ist es […]

KI kann ich - oder doch nicht? - Blogeintrag

Im Rahmen der Vestischen Wirtschaftsgespräche wurde das Thema Künstliche Intelligenz (KI) bezüglich Chancen und Risiken unter verschiedenen Fragestellungen beleuchtet, da diese Technologie für den Mittelstand von großer Bedeutung ist. Dass hierzu ein hoher Informationsbedarf besteht, zeigte sich auch an der Teilnehmerzahl von fast 300 Gästen. In diesem Rahmen diskutierte Ulla Coester, Projektleiterin des Forschungsprojekts 

Präsentation zu LLM-Ethics

LLM-Ethics: Neben Entertainments- und Produktivitäts- auch Moral- und Vertrauens-Aspekte? Am 16.05.23 fand im Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS im Schloss Birlinghoven in Sankt Augustin eine Konferenz über ChatGPT statt. Dort wurden unter anderem dessen technische Hintergründe sowie der Nutzen der Technologie vorgestellt und diskutiert. Frau Ulla Coester, Projektleiterin am Institut für Internet-Sicherheit (if(is)), hielt dort einen Vortrag mit dem Titel: “LLM-Ethics: Neben Entertainments- und Produktivitäts- auch Moral- und Vertrauens-Aspekte?”. In diesem Vortrag stellte sie die folgenden Fragen, welche sich tief mit den ethischen Aspekten künstlicher Intelligenz beschäftigen: Was macht ein gutes Leben aus? Dies ist eine der essenziellen Fragen, welche […]

Vertrauenswürdigkeit von Unternehmen

Symbolbild Person an Computer

Warum Vertrauenswürdigkeit und KI unbedingt zusammengehören Warum Vertrauenswürdigkeit und KI unbedingt zusammengehören Die Künstliche Intelligenz (KI) wird aufgrund unterschiedlicher Interessenlagen kontrovers diskutiert, was zu einer uneinheitlichen Einstellung der Nutzer führt. Einige vertrauen blind, andere sind indifferent oder ablehnend gegenüber KI. Diese Uneinheitlichkeit und die wachsende Komplexität können dazu führen, dass der Einsatz neuer Technologien verzögert oder sogar verhindert wird. Unternehmen müssen jetzt handeln, um dies zu vermeiden. Die Ereignisse im Jahr 2020 haben zu hohen Investitionen geführt, um die Digitalisierung in Unternehmen voranzutreiben. Neben den positiven Aspekten wurde jedoch auch deutlich, dass die zunehmend komplexe IT-Infrastruktur neue Herausforderungen für alle […]