Ein Projekt von:

Institut für Internet-Sicherheit - if(is)

Unser Blog

Aktuelles

Bild zu EU-Datenraum: Einigung erzielt - Starke Patientenrechte und Forschungsförderung

Das Europäische Parlament und der Rat der Europäischen Union haben am 15. März 2024 nach langjährigen Verhandlungen eine Einigung über die Ausgestaltung des Europäischen Gesundheitsdatenraums (European Health Data Space, EHDS) erzielt. Die EU-Kommission machte deutlich, dass diese Einigung ein zentraler Baustein einer starken Europäischen Gesundheitsunion ist. Patientenrechte gestärkt und Forschung ermöglicht Die Kommission betont, dass die neuen Vorschriften die Bürgerinnen und Bürger in den Mittelpunkt der Gesundheitsversorgung stellen. So haben diese zukünftig die volle Kontrolle über ihre Daten und können EU-weit auf ihre elektronischen Patientenakten zugreifen. Gleichzeitig schafft der EHDS einen soliden Rechtsrahmen für die Weiterverwendung von Gesundheitsdaten für Forschungszwecke, […]

Das Europäische Parlament hat mit deutlicher Mehrheit für den AI-Act gestimmt, ein Gesetz zur Regulierung von Künstlicher Intelligenz (KI) in der Europäischen Union. Bei der Abstimmung stimmten 523 Abgeordnete für das Gesetz, 46 dagegen. Es ist die weltweit erste staatliche Regulierung künstlicher Intelligenz.Die Einteilung der RisikoklassenDer AI-Act sieht vor, KI-Systeme in verschiedene Risikoklassen einzuteilen, um entsprechende Regulierungsanforderungen festzulegen. Dabei werden Transparenz und Erklärbarkeit von KI gefordert und bestimmte gefährliche Anwendungen von KI verboten. Hersteller von Hochrisiko-KI-Systemen müssen Konformitätsbewertungen durchführen, um die Einhaltung der Verordnung nachzuweisen. Unternehmen, die gegen die Verordnung verstoßen, müssen mit empfindlichen Geldbußen rechnen. Viele Kritiker der Regelung […]

Künstliche Intelligenz unterstützt bei der Arbeit im Büro, aber die Technologie wird inzwischen intensiv von kriminellen Akteuren und Organisationen eingesetzt. OpenAI und Microsoft müssen feststellen, dass bereits bekannte Gruppen die Dienste für illegale Zwecke einsetzen. OpenAI äußerte sich in einem Blog-Beitrag dazu und geht davon aus, “dass GPT-4 nur begrenzte, zusätzliche Fähigkeiten für böswillige Cybersicherheitsaufgaben bietet, die über das hinausgehen, was bereits mit öffentlich verfügbaren, nicht KI-gestützten Tools erreicht werden kann.” Trotzdem wird in beiden Unternehmen konstant daran gearbeitet, missbräuchlichen Nutzen zu entdecken und zu verhindern. Zusätzlich gab Microsoft in einem Blog-Beitrag an, dass es zu Versuchen von sogenannten “Prompt-Injections” […]

Gesetze

Das Europäische Parlament hat mit deutlicher Mehrheit für den AI-Act gestimmt, ein Gesetz zur Regulierung von Künstlicher Intelligenz (KI) in der Europäischen Union. Bei der Abstimmung stimmten 523 Abgeordnete für das Gesetz, 46 dagegen. Es ist die weltweit erste staatliche Regulierung künstlicher Intelligenz.Die Einteilung der RisikoklassenDer AI-Act sieht vor, KI-Systeme in verschiedene Risikoklassen einzuteilen, um entsprechende Regulierungsanforderungen festzulegen. Dabei werden Transparenz und Erklärbarkeit von KI gefordert und bestimmte gefährliche Anwendungen von KI verboten. Hersteller von Hochrisiko-KI-Systemen müssen Konformitätsbewertungen durchführen, um die Einhaltung der Verordnung nachzuweisen. Unternehmen, die gegen die Verordnung verstoßen, müssen mit empfindlichen Geldbußen rechnen. Viele Kritiker der Regelung […]

Trilog zum AI Act am 6. Dezember 2023

Der AI Act regelt Künstliche Intelligenz Nach langen Verhandlungen haben sich die Unterhändler des EU-Parlaments, des Ministerrats und der Kommission auf die endgültige Fassung des AI-Acts geeinigt. Das weltweit erste umfassende demokratische Regelwerk für Künstliche Intelligenz (KI) steht nun fest und somit dürfte das Gesetz noch vor den Europawahlen im kommenden Juni verabschiedet werden. Jedoch gibt Fritz Pieper, Rechtsanwalt im IT-Recht bei Taylor Wessing in seinem Post auf LinkedIn zu bedenken, „es gibt einen _politischen_ Deal. Es gibt kein offizielles Dokument. Man weiß nicht, wie die Regelungen im Detail aussehen (werden). Viele müssen noch in weiteren Terminen erarbeitet werden. Es […]

EU-Binnenmarktkommissar Thierry Breton ist mit den Verhandlungen zum AI Act unzufrieden

Der AI Act hat mit vielen Widerständen zu kämpfen. Die Verhandlungen über den

Symbolbild Waage und Text AI Act

Der AI Act, auch bekannt als der “Gesetzentwurf der Europäischen Union über künstliche Intelligenz”, ist eine wegweisende Gesetzgebung, die von der Europäischen Union eingeführt wurde, um die Regulierung und den verantwortungsvollen Einsatz von

Veranstaltungen

Präsentation zum Thema ChatGPT: Konsequenzen für die IT-Sicherheit

Am 16.05.23 fand im Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS im Schloss Birlinghoven in Sankt Augustin eine Konferenz über ChatGPT statt. Bei dieser Konferenz wurden die technologischen Eckpunkte, die Rahmenbedingungen und Use Cases vorgestellt und diskutiert. Auf dieser Konferenz hielt Herr Prof. Dr. Pohlmann einen Vortrag mit dem Titel “ChatGPT ff.: Konsequenzen für die IT-Sicherheit“. In dieser Präsentation werden die Risiken von ChatGPT im Hinblick auf Cybersicherheit erläutert. Folgende Risiken werden in der Präsentation erläutert: Phishing / Spear-Phishing Social Engineering Beschleunigtes Entwickeln von Angriffen Vertrauliche Informationen Verbreitung von Falschinformationen / Fake News Trotz dieser 

Vertrauenswürdigkeit von Unternehmen

AI-Act und Überwachung Quelle: Pixabay

Nach langen Verhandlungen haben sich die Unterhändler des EU-Parlaments, des Ministerrats und der Kommission im Dezember auf die endgültige Fassung des AI-Acts geeinigt. Der Kompromiss enthielt jedoch einige Schlupflöcher, insbesondere in Bezug auf biometrische Videoüberwachung und Predictive Policing. Hier haben sich die Mitgliedstaaten gegenüber dem EU-Parlament durchgesetzt. Nachträgliche Änderungen sorgen aktuell für Ärger bei EU-Abgeordneten und Bürgerrechtsorganisationen. Wird das Gesetz in der nun vorliegenden Form verabschiedet, hätte dies weitreichende Folgen.„Es ist unfassbar, dass die spanische Ratspräsidentschaft dafür gesorgt hat, dass der endgültige Gesetzestext in wesentlichen Punkten nicht mehr mit der mündlichen Einigung des Trilogs vom Dezember übereinstimmt“, kritisiert die Europaabgeordnete […]

Grafik zum Eintrag Große Unternehmen setzen KI regelmäßig ein

Das Statistische Bundesamt in Wiesbaden hat die Ergebnisse zur Nutzung Künstlicher Intelligenz (KI) in deutschen Unternehmen im Jahr 2023 veröffentlicht. Vor allem Großunternehmen setzen KI demnach deutlich häufiger ein als kleine und mittlere Unternehmen. Am häufigsten kommt KI-Technologie im Controlling und der Finanzverwaltung von Unternehmen zum Einsatz. Häufigster Grund für den Nichtgebrauch von KI ist fehlendes Wissen, ethische Überlegungen sind nur in jedem fünften Fall ein Grund für den Verzicht auf KI. Die Ergebnisse stammen aus der jährlichen Erhebung über die Nutzung von Informations- und Kommunikationstechnologien (IKT) in Unternehmen. Als Unternehmen gelten hier die kleinsten rechtlich selbstständigen Einheiten, die eine […]

Bild über die Prozentzahl der Personen, die für gesetzliche Vorgaben für sichere und ethische KI sind.

Der TÜV-Verband hat eine aktuelle Umfrage zur Nutzung und Regulierung von