Menü
Ein Projekt von:
Das Europäische Parlament und der Rat der Europäischen Union haben am 15. März 2024 nach langjährigen Verhandlungen eine Einigung über die Ausgestaltung des Europäischen Gesundheitsdatenraums (European Health Data Space, EHDS) erzielt. Die EU-Kommission machte deutlich, dass diese Einigung ein zentraler Baustein einer starken Europäischen Gesundheitsunion ist. Patientenrechte gestärkt und Forschung ermöglicht Die Kommission betont, dass die neuen Vorschriften die Bürgerinnen und Bürger in den Mittelpunkt der Gesundheitsversorgung stellen. So haben diese zukünftig die volle Kontrolle über ihre Daten und können EU-weit auf ihre elektronischen Patientenakten zugreifen. Gleichzeitig schafft der EHDS einen soliden Rechtsrahmen für die Weiterverwendung von Gesundheitsdaten für Forschungszwecke, […]
Das Europäische Parlament hat mit deutlicher Mehrheit für den AI-Act gestimmt, ein Gesetz zur Regulierung von Künstlicher Intelligenz (KI) in der Europäischen Union. Bei der Abstimmung stimmten 523 Abgeordnete für das Gesetz, 46 dagegen. Es ist die weltweit erste staatliche Regulierung künstlicher Intelligenz.Die Einteilung der RisikoklassenDer AI-Act sieht vor, KI-Systeme in verschiedene Risikoklassen einzuteilen, um entsprechende Regulierungsanforderungen festzulegen. Dabei werden Transparenz und Erklärbarkeit von KI gefordert und bestimmte gefährliche Anwendungen von KI verboten. Hersteller von Hochrisiko-KI-Systemen müssen Konformitätsbewertungen durchführen, um die Einhaltung der Verordnung nachzuweisen. Unternehmen, die gegen die Verordnung verstoßen, müssen mit empfindlichen Geldbußen rechnen. Viele Kritiker der Regelung […]
Künstliche Intelligenz unterstützt bei der Arbeit im Büro, aber die Technologie wird inzwischen intensiv von kriminellen Akteuren und Organisationen eingesetzt. OpenAI und Microsoft müssen feststellen, dass bereits bekannte Gruppen die Dienste für illegale Zwecke einsetzen. OpenAI äußerte sich in einem Blog-Beitrag dazu und geht davon aus, “dass GPT-4 nur begrenzte, zusätzliche Fähigkeiten für böswillige Cybersicherheitsaufgaben bietet, die über das hinausgehen, was bereits mit öffentlich verfügbaren, nicht KI-gestützten Tools erreicht werden kann.” Trotzdem wird in beiden Unternehmen konstant daran gearbeitet, missbräuchlichen Nutzen zu entdecken und zu verhindern. Zusätzlich gab Microsoft in einem Blog-Beitrag an, dass es zu Versuchen von sogenannten “Prompt-Injections” […]
Das Europäische Parlament hat mit deutlicher Mehrheit für den AI-Act gestimmt, ein Gesetz zur Regulierung von Künstlicher Intelligenz (KI) in der Europäischen Union. Bei der Abstimmung stimmten 523 Abgeordnete für das Gesetz, 46 dagegen. Es ist die weltweit erste staatliche Regulierung künstlicher Intelligenz.Die Einteilung der RisikoklassenDer AI-Act sieht vor, KI-Systeme in verschiedene Risikoklassen einzuteilen, um entsprechende Regulierungsanforderungen festzulegen. Dabei werden Transparenz und Erklärbarkeit von KI gefordert und bestimmte gefährliche Anwendungen von KI verboten. Hersteller von Hochrisiko-KI-Systemen müssen Konformitätsbewertungen durchführen, um die Einhaltung der Verordnung nachzuweisen. Unternehmen, die gegen die Verordnung verstoßen, müssen mit empfindlichen Geldbußen rechnen. Viele Kritiker der Regelung […]
Der AI Act regelt Künstliche Intelligenz Nach langen Verhandlungen haben sich die Unterhändler des EU-Parlaments, des Ministerrats und der Kommission auf die endgültige Fassung des AI-Acts geeinigt. Das weltweit erste umfassende demokratische Regelwerk für Künstliche Intelligenz (KI) steht nun fest und somit dürfte das Gesetz noch vor den Europawahlen im kommenden Juni verabschiedet werden. Jedoch gibt Fritz Pieper, Rechtsanwalt im IT-Recht bei Taylor Wessing in seinem Post auf LinkedIn zu bedenken, „es gibt einen _politischen_ Deal. Es gibt kein offizielles Dokument. Man weiß nicht, wie die Regelungen im Detail aussehen (werden). Viele müssen noch in weiteren Terminen erarbeitet werden. Es […]
Der AI Act hat mit vielen Widerständen zu kämpfen. Die Verhandlungen über den
Der AI Act, auch bekannt als der “Gesetzentwurf der Europäischen Union über künstliche Intelligenz”, ist eine wegweisende Gesetzgebung, die von der Europäischen Union eingeführt wurde, um die Regulierung und den verantwortungsvollen Einsatz von
Am 16.05.23 fand im Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS im Schloss Birlinghoven in Sankt Augustin eine Konferenz über ChatGPT statt. Bei dieser Konferenz wurden die technologischen Eckpunkte, die Rahmenbedingungen und Use Cases vorgestellt und diskutiert. Auf dieser Konferenz hielt Herr Prof. Dr. Pohlmann einen Vortrag mit dem Titel “ChatGPT ff.: Konsequenzen für die IT-Sicherheit“. In dieser Präsentation werden die Risiken von ChatGPT im Hinblick auf Cybersicherheit erläutert. Folgende Risiken werden in der Präsentation erläutert: Phishing / Spear-Phishing Social Engineering Beschleunigtes Entwickeln von Angriffen Vertrauliche Informationen Verbreitung von Falschinformationen / Fake News Trotz dieser
Aktuelle Studie zur „Vertrauenswürdigkeit von Hersteller-Unternehmen und IT-Lösungen“ Studie Vertrauenswürdigkeit Im September haben wir – das Institut für Internet-Sicherheit – if(is) in Kooperation mit Ulla Coester, xethix Empowerment – die Nutzerstudie zu unserer, in Planung befindlichen,
Wie können wir der KI vertrauen? – Mechanismus für gute Ergebnisse KI vertrauen Mehr und mehr Unternehmen planen, KI weitreichend einzusetzen oder tun dies bereits. Vielen gelingt Dies jedoch nicht. Gründe hierfür können zum Einen die fehlenden zukunftssicheren Einsatzmöglichkeiten sein, welche den Nutzen schmälern. Zum Anderen besteht Unsicherheit über die Validität der KI-generierten Ergebnisse. Nachfolgend geht es um die Mechanismen, die gute Ergebnisse sicherzustellen helfen. Damit sowohl in Unternehmen als auch in der Gesellschaft eine breite Akzeptanz für KI herrscht, müssen einige Herausforderungen überwunden werden. Als Schlüssel zu diesem Erfolg wird die Vertrauenswürdigkeit der KI-Technologie gesehen. Doch wie kann diese aufgebaut werden?
Umfrage zur Vertrauenswürdigkeit bei Herstellern Vor einigen Wochen hat das Institut für Internet-Sicherheit if(is) – in Zusammenarbeit mit Ulla Coester, Expertin für Digitale Vertrauenswürdigkeit und Ethik – gemeinsam mit dem Bundesverband IT-Sicherheit TeleTrusT eine Erhebung bezüglich eines in der Planung befindlichen “Vertrauenswürdigkeitssystem” durchgeführt. Im Rahmen dieser Erhebung wurde untersucht, welche Fragen- und Themenstellungen allgemein für den Aufbau eines Vertrauenswürdigkeitssystems relevant sind, das zukünftig mit dem Ziel eingesetzt werden soll, ein höheres Vertrauen bei Kunden/Nutzern zu erzielen. Im Weiteren erhalten Sie ein Exzerpt bezüglich der Auswertung von relevanten Ergebnissen der beiden Studien “Vertrauenswürdigkeit” und “Feedback Vertrauenswürdigkeitssystem”. Grundsätzlich hat sich gezeigt, dass bei Unternehmen der Cyber-Sicherheitsbranche […]