Ein Projekt von:

Institut für Internet-Sicherheit - if(is)

Unser Blog

Aktuelles

Bild zu EU-Datenraum: Einigung erzielt - Starke Patientenrechte und Forschungsförderung

Das Europäische Parlament und der Rat der Europäischen Union haben am 15. März 2024 nach langjährigen Verhandlungen eine Einigung über die Ausgestaltung des Europäischen Gesundheitsdatenraums (European Health Data Space, EHDS) erzielt. Die EU-Kommission machte deutlich, dass diese Einigung ein zentraler Baustein einer starken Europäischen Gesundheitsunion ist. Patientenrechte gestärkt und Forschung ermöglicht Die Kommission betont, dass die neuen Vorschriften die Bürgerinnen und Bürger in den Mittelpunkt der Gesundheitsversorgung stellen. So haben diese zukünftig die volle Kontrolle über ihre Daten und können EU-weit auf ihre elektronischen Patientenakten zugreifen. Gleichzeitig schafft der EHDS einen soliden Rechtsrahmen für die Weiterverwendung von Gesundheitsdaten für Forschungszwecke, […]

Das Europäische Parlament hat mit deutlicher Mehrheit für den AI-Act gestimmt, ein Gesetz zur Regulierung von Künstlicher Intelligenz (KI) in der Europäischen Union. Bei der Abstimmung stimmten 523 Abgeordnete für das Gesetz, 46 dagegen. Es ist die weltweit erste staatliche Regulierung künstlicher Intelligenz.Die Einteilung der RisikoklassenDer AI-Act sieht vor, KI-Systeme in verschiedene Risikoklassen einzuteilen, um entsprechende Regulierungsanforderungen festzulegen. Dabei werden Transparenz und Erklärbarkeit von KI gefordert und bestimmte gefährliche Anwendungen von KI verboten. Hersteller von Hochrisiko-KI-Systemen müssen Konformitätsbewertungen durchführen, um die Einhaltung der Verordnung nachzuweisen. Unternehmen, die gegen die Verordnung verstoßen, müssen mit empfindlichen Geldbußen rechnen. Viele Kritiker der Regelung […]

Künstliche Intelligenz unterstützt bei der Arbeit im Büro, aber die Technologie wird inzwischen intensiv von kriminellen Akteuren und Organisationen eingesetzt. OpenAI und Microsoft müssen feststellen, dass bereits bekannte Gruppen die Dienste für illegale Zwecke einsetzen. OpenAI äußerte sich in einem Blog-Beitrag dazu und geht davon aus, “dass GPT-4 nur begrenzte, zusätzliche Fähigkeiten für böswillige Cybersicherheitsaufgaben bietet, die über das hinausgehen, was bereits mit öffentlich verfügbaren, nicht KI-gestützten Tools erreicht werden kann.” Trotzdem wird in beiden Unternehmen konstant daran gearbeitet, missbräuchlichen Nutzen zu entdecken und zu verhindern. Zusätzlich gab Microsoft in einem Blog-Beitrag an, dass es zu Versuchen von sogenannten “Prompt-Injections” […]

Gesetze

Das Europäische Parlament hat mit deutlicher Mehrheit für den AI-Act gestimmt, ein Gesetz zur Regulierung von Künstlicher Intelligenz (KI) in der Europäischen Union. Bei der Abstimmung stimmten 523 Abgeordnete für das Gesetz, 46 dagegen. Es ist die weltweit erste staatliche Regulierung künstlicher Intelligenz.Die Einteilung der RisikoklassenDer AI-Act sieht vor, KI-Systeme in verschiedene Risikoklassen einzuteilen, um entsprechende Regulierungsanforderungen festzulegen. Dabei werden Transparenz und Erklärbarkeit von KI gefordert und bestimmte gefährliche Anwendungen von KI verboten. Hersteller von Hochrisiko-KI-Systemen müssen Konformitätsbewertungen durchführen, um die Einhaltung der Verordnung nachzuweisen. Unternehmen, die gegen die Verordnung verstoßen, müssen mit empfindlichen Geldbußen rechnen. Viele Kritiker der Regelung […]

Trilog zum AI Act am 6. Dezember 2023

Der AI Act regelt Künstliche Intelligenz Nach langen Verhandlungen haben sich die Unterhändler des EU-Parlaments, des Ministerrats und der Kommission auf die endgültige Fassung des AI-Acts geeinigt. Das weltweit erste umfassende demokratische Regelwerk für Künstliche Intelligenz (KI) steht nun fest und somit dürfte das Gesetz noch vor den Europawahlen im kommenden Juni verabschiedet werden. Jedoch gibt Fritz Pieper, Rechtsanwalt im IT-Recht bei Taylor Wessing in seinem Post auf LinkedIn zu bedenken, „es gibt einen _politischen_ Deal. Es gibt kein offizielles Dokument. Man weiß nicht, wie die Regelungen im Detail aussehen (werden). Viele müssen noch in weiteren Terminen erarbeitet werden. Es […]

EU-Binnenmarktkommissar Thierry Breton ist mit den Verhandlungen zum AI Act unzufrieden

Der AI Act hat mit vielen Widerständen zu kämpfen. Die Verhandlungen über den

Symbolbild Waage und Text AI Act

Der AI Act, auch bekannt als der “Gesetzentwurf der Europäischen Union über künstliche Intelligenz”, ist eine wegweisende Gesetzgebung, die von der Europäischen Union eingeführt wurde, um die Regulierung und den verantwortungsvollen Einsatz von

Veranstaltungen

Präsentation zum Thema ChatGPT: Konsequenzen für die IT-Sicherheit

Am 16.05.23 fand im Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS im Schloss Birlinghoven in Sankt Augustin eine Konferenz über ChatGPT statt. Bei dieser Konferenz wurden die technologischen Eckpunkte, die Rahmenbedingungen und Use Cases vorgestellt und diskutiert. Auf dieser Konferenz hielt Herr Prof. Dr. Pohlmann einen Vortrag mit dem Titel “ChatGPT ff.: Konsequenzen für die IT-Sicherheit“. In dieser Präsentation werden die Risiken von ChatGPT im Hinblick auf Cybersicherheit erläutert. Folgende Risiken werden in der Präsentation erläutert: Phishing / Spear-Phishing Social Engineering Beschleunigtes Entwickeln von Angriffen Vertrauliche Informationen Verbreitung von Falschinformationen / Fake News Trotz dieser

Vertrauenswürdigkeit von Unternehmen

Symbolbild Kontakt Anwender und KI

Akzeptanz von IT-Lösungen – wie Vertrauen bei Anwendern entsteht Wie Vertrauen bei Anwendern entsteht Um Vertrauenswürdigkeit aufzubauen, müssen Unternehmen vor der Entwicklung ihrer Strategie ein Verständnis dafür haben, was für Anwender wichtig ist. Dieses Verständnis ist notwendig, damit Unternehmen ihre Vorgehensweise entsprechend ausrichten können, um den Ansprüchen der Anwender gerecht zu werden. Die Digitalisierung hat eine stärkere Abhängigkeit zwischen Herstellern, Diensteanbietern und Anwendern geschaffen. In dieser gegenseitigen Beziehung kann die Akzeptanz von Technologie und individuellen IT-Lösungen sowohl positiv als auch negativ beeinflusst werden. Warum? Einerseits haben Anwender heute mehr Möglichkeiten, die Leistung der Hersteller zu kontrollieren, zum Beispiel durch sofortiges […]

Symbolbild Unternehmen

IT-Systeme: Warum Vertrauen für Unternehmen so wichtig ist Warum Vertrauen für Unternehmen so wichtig ist Vertrauen ist gut, Kontrolle ist besser – dieser Spruch ist uns allen noch bekannt, insbesondere im Zusammenhang mit der IT. Doch was passiert, wenn wir die Kontrolle über IT-Systeme verlieren? In solchen Fällen müssen wir einfach Vertrauen haben, auch wenn es schwerfällt. In diesem Artikel erfahren Sie, was Unternehmen tun sollten, um es ihren Nutzern leichter zu machen. Verschiedene Studien, wie zum Beispiel die Zukunftsstudie 2020 des Münchner Kreises, haben festgestellt, dass Mitarbeiter eher dazu tendieren, den Analysen und Handlungsempfehlungen künstlicher Intelligenz (KI) zu folgen, anstatt […]

Symbolbild menschliches Vertrauen

Menschliche Basis fürs Business – Mechanismen zur Vertrauensbildung Menschliche Basis fürs Business Grundsätzlich und immer dann, wenn Menschen auch in der digitalen Welt Vertrauen haben können, ist es wichtig, um handlungsfähig zu sein. Es gibt jedoch auch Situationen, in denen man einfach