Menü
Ein Projekt von:
Das Europäische Parlament und der Rat der Europäischen Union haben am 15. März 2024 nach langjährigen Verhandlungen eine Einigung über die Ausgestaltung des Europäischen Gesundheitsdatenraums (European Health Data Space, EHDS) erzielt. Die EU-Kommission machte deutlich, dass diese Einigung ein zentraler Baustein einer starken Europäischen Gesundheitsunion ist. Patientenrechte gestärkt und Forschung ermöglicht Die Kommission betont, dass die neuen Vorschriften die Bürgerinnen und Bürger in den Mittelpunkt der Gesundheitsversorgung stellen. So haben diese zukünftig die volle Kontrolle über ihre Daten und können EU-weit auf ihre elektronischen Patientenakten zugreifen. Gleichzeitig schafft der EHDS einen soliden Rechtsrahmen für die Weiterverwendung von Gesundheitsdaten für Forschungszwecke, […]
Das Europäische Parlament hat mit deutlicher Mehrheit für den AI-Act gestimmt, ein Gesetz zur Regulierung von Künstlicher Intelligenz (KI) in der Europäischen Union. Bei der Abstimmung stimmten 523 Abgeordnete für das Gesetz, 46 dagegen. Es ist die weltweit erste staatliche Regulierung künstlicher Intelligenz.Die Einteilung der RisikoklassenDer AI-Act sieht vor, KI-Systeme in verschiedene Risikoklassen einzuteilen, um entsprechende Regulierungsanforderungen festzulegen. Dabei werden Transparenz und Erklärbarkeit von KI gefordert und bestimmte gefährliche Anwendungen von KI verboten. Hersteller von Hochrisiko-KI-Systemen müssen Konformitätsbewertungen durchführen, um die Einhaltung der Verordnung nachzuweisen. Unternehmen, die gegen die Verordnung verstoßen, müssen mit empfindlichen Geldbußen rechnen. Viele Kritiker der Regelung […]
Künstliche Intelligenz unterstützt bei der Arbeit im Büro, aber die Technologie wird inzwischen intensiv von kriminellen Akteuren und Organisationen eingesetzt. OpenAI und Microsoft müssen feststellen, dass bereits bekannte Gruppen die Dienste für illegale Zwecke einsetzen. OpenAI äußerte sich in einem Blog-Beitrag dazu und geht davon aus, “dass GPT-4 nur begrenzte, zusätzliche Fähigkeiten für böswillige Cybersicherheitsaufgaben bietet, die über das hinausgehen, was bereits mit öffentlich verfügbaren, nicht KI-gestützten Tools erreicht werden kann.” Trotzdem wird in beiden Unternehmen konstant daran gearbeitet, missbräuchlichen Nutzen zu entdecken und zu verhindern. Zusätzlich gab Microsoft in einem Blog-Beitrag an, dass es zu Versuchen von sogenannten “Prompt-Injections” […]
Das Europäische Parlament hat mit deutlicher Mehrheit für den AI-Act gestimmt, ein Gesetz zur Regulierung von Künstlicher Intelligenz (KI) in der Europäischen Union. Bei der Abstimmung stimmten 523 Abgeordnete für das Gesetz, 46 dagegen. Es ist die weltweit erste staatliche Regulierung künstlicher Intelligenz.Die Einteilung der RisikoklassenDer AI-Act sieht vor, KI-Systeme in verschiedene Risikoklassen einzuteilen, um entsprechende Regulierungsanforderungen festzulegen. Dabei werden Transparenz und Erklärbarkeit von KI gefordert und bestimmte gefährliche Anwendungen von KI verboten. Hersteller von Hochrisiko-KI-Systemen müssen Konformitätsbewertungen durchführen, um die Einhaltung der Verordnung nachzuweisen. Unternehmen, die gegen die Verordnung verstoßen, müssen mit empfindlichen Geldbußen rechnen. Viele Kritiker der Regelung […]
Der AI Act regelt Künstliche Intelligenz Nach langen Verhandlungen haben sich die Unterhändler des EU-Parlaments, des Ministerrats und der Kommission auf die endgültige Fassung des AI-Acts geeinigt. Das weltweit erste umfassende demokratische Regelwerk für Künstliche Intelligenz (KI) steht nun fest und somit dürfte das Gesetz noch vor den Europawahlen im kommenden Juni verabschiedet werden. Jedoch gibt Fritz Pieper, Rechtsanwalt im IT-Recht bei Taylor Wessing in seinem Post auf LinkedIn zu bedenken, „es gibt einen _politischen_ Deal. Es gibt kein offizielles Dokument. Man weiß nicht, wie die Regelungen im Detail aussehen (werden). Viele müssen noch in weiteren Terminen erarbeitet werden. Es […]
Der AI Act hat mit vielen Widerständen zu kämpfen. Die Verhandlungen über den
Der AI Act, auch bekannt als der “Gesetzentwurf der Europäischen Union über künstliche Intelligenz”, ist eine wegweisende Gesetzgebung, die von der Europäischen Union eingeführt wurde, um die Regulierung und den verantwortungsvollen Einsatz von
„Die Angreifer, aber das sind sie, verdienen ja auch viel Geld. Die Angreifer machen das sehr professionell. Die nutzen ChatGPT, um besser angreifen zu können oder andere KI-Systeme. Wir als Verteidiger, wir müssen eigentlich noch enger zusammenarbeiten. Also wenn wir unsere sicherheitsrelevanten Informationen teilen würden, dann könnten wir mit KI viel besser Informationen erhalten, wie wir uns entsprechend schützen können“. Professor Norbert Pohlmann Angreifer und Verteidiger von IT-Systemen liefern sich einen ständigen Kampf um die Vorherrschaft. Beide Seiten entwickeln sich ständig weiter und erforschen neue Strategien, sei es zur Ausnutzung oder zum Schutz von IT-Systemen. Vor diesem Hintergrund ist es […]
Im Rahmen der Vestischen Wirtschaftsgespräche wurde das Thema Künstliche Intelligenz (KI) bezüglich Chancen und Risiken unter verschiedenen Fragestellungen beleuchtet, da diese Technologie für den Mittelstand von großer Bedeutung ist. Dass hierzu ein hoher Informationsbedarf besteht, zeigte sich auch an der Teilnehmerzahl von fast 300 Gästen. In diesem Rahmen diskutierte Ulla Coester, Projektleiterin des Forschungsprojekts
LLM-Ethics: Neben Entertainments- und Produktivitäts- auch Moral- und Vertrauens-Aspekte? Am 16.05.23 fand im Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS im Schloss Birlinghoven in Sankt Augustin eine Konferenz über ChatGPT statt. Dort wurden unter anderem dessen technische Hintergründe sowie der Nutzen der Technologie vorgestellt und diskutiert. Frau Ulla Coester, Projektleiterin am Institut für Internet-Sicherheit (if(is)), hielt dort einen Vortrag mit dem Titel: “LLM-Ethics: Neben Entertainments- und Produktivitäts- auch Moral- und Vertrauens-Aspekte?”. In diesem Vortrag stellte sie die folgenden Fragen, welche sich tief mit den ethischen Aspekten künstlicher Intelligenz beschäftigen: Was macht ein gutes Leben aus? Dies ist eine der essenziellen Fragen, welche […]
Aktuelle Studie zur „Vertrauenswürdigkeit von Hersteller-Unternehmen und IT-Lösungen“ Studie Vertrauenswürdigkeit Im September haben wir – das Institut für Internet-Sicherheit – if(is) in Kooperation mit Ulla Coester, xethix Empowerment – die Nutzerstudie zu unserer, in Planung befindlichen,
Wie können wir der KI vertrauen? – Mechanismus für gute Ergebnisse KI vertrauen Mehr und mehr Unternehmen planen, KI weitreichend einzusetzen oder tun dies bereits. Vielen gelingt Dies jedoch nicht. Gründe hierfür können zum Einen die fehlenden zukunftssicheren Einsatzmöglichkeiten sein, welche den Nutzen schmälern. Zum Anderen besteht Unsicherheit über die Validität der KI-generierten Ergebnisse. Nachfolgend geht es um die Mechanismen, die gute Ergebnisse sicherzustellen helfen. Damit sowohl in Unternehmen als auch in der Gesellschaft eine breite Akzeptanz für KI herrscht, müssen einige Herausforderungen überwunden werden. Als Schlüssel zu diesem Erfolg wird die Vertrauenswürdigkeit der KI-Technologie gesehen. Doch wie kann diese aufgebaut werden?
Umfrage zur Vertrauenswürdigkeit bei Herstellern Vor einigen Wochen hat das Institut für Internet-Sicherheit if(is) – in Zusammenarbeit mit Ulla Coester, Expertin für Digitale Vertrauenswürdigkeit und Ethik – gemeinsam mit dem Bundesverband IT-Sicherheit TeleTrusT eine Erhebung bezüglich eines in der Planung befindlichen “Vertrauenswürdigkeitssystem” durchgeführt. Im Rahmen dieser Erhebung wurde untersucht, welche Fragen- und Themenstellungen allgemein für den Aufbau eines Vertrauenswürdigkeitssystems relevant sind, das zukünftig mit dem Ziel eingesetzt werden soll, ein höheres Vertrauen bei Kunden/Nutzern zu erzielen. Im Weiteren erhalten Sie ein Exzerpt bezüglich der Auswertung von relevanten Ergebnissen der beiden Studien “Vertrauenswürdigkeit” und “Feedback Vertrauenswürdigkeitssystem”. Grundsätzlich hat sich gezeigt, dass bei Unternehmen der Cyber-Sicherheitsbranche […]