Prosoz, der führende Hersteller spezialisierter Software in Deutschland, bietet umfassende Lösungen und Beratungsleistungen für Kommunen in den Bereichen soziale Sicherung, Umwelt und Bauen an. “Prosoz Herten ist vollständig im Besitz der Stadt Herten und stellt sowohl Software als auch Beratungsdienste für Kommunen bereit”, erläutert Christian Rupp, Chief Digital Officer des Unternehmens. Rupp betont die entscheidende Rolle des Vertrauens beim Einsatz von KI im öffentlichen Sektor: “Sowohl die öffentliche Hand als auch Bürger und Unternehmer müssen darauf vertrauen können, dass die KI-Ergebnisse zuverlässig sind.”
Verlässlichkeit und Datenqualität
Für Rupp steht die Vertrauenswürdigkeit von KI-Anwendungen im Mittelpunkt. “Die Kernfrage ist immer: Welches Problem soll die KI lösen und sind die Ergebnisse zuverlässig?” Diese Zuverlässigkeit hängt stark von der Qualität der Daten ab, die zum Training der KI verwendet werden, sowie von umfassenden internen Tests. Ein weiteres Schlüsselelement für Vertrauen ist laut Rupp eine Kultur, die Fehler zulässt und adressiert: “Es gibt keine Softwarelösung, die zu 100 % fehlerfrei ist. Sie muss kontinuierlich aktualisiert und neu trainiert werden.” Zudem ist der First- und Second-Level-Support entscheidend, um den Nutzern jederzeit Unterstützung zu bieten.
Datensicherheit und Privatsphäre
Ein kritischer Aspekt bei der Nutzung von KI ist die Datensicherheit. “Unternehmen müssen genau wissen, welche Daten verwendet werden und wie diese durch KI verarbeitet werden können”, so Rupp. Er hebt hervor, wie wichtig es ist, Nutzer zu schulen, damit sie sicher verstehen, welche Daten hochgeladen werden können.
Herausforderungen und Verantwortlichkeiten
Rupp spricht auch über die Herausforderungen beim Einsatz von KI: “Die größte Herausforderung besteht darin, Mitarbeiter zu schulen, welche Daten nicht hochgeladen werden sollten.” Darüber hinaus betont er die Verantwortung aller Beteiligten: “Es ist die Pflicht der Politik, der Verwaltung und der Nutzer, kontinuierlich zu überprüfen, ob die KI-Ergebnisse korrekt sind.”
Initiativen wie Trust KI
Rupp unterstreicht die Bedeutung von Initiativen wie Trust KI, die sich mit der Vertrauenswürdigkeit von Künstlicher Intelligenz beschäftigen. “Es ist entscheidend, eine Plattform zu haben, die vertrauenswürdige Anbieter aufzeigt”, sagt er. Diese Initiativen sind entscheidend, um Vertrauen und Sicherheit in die Integration von KI im öffentlichen Sektor zu gewährleisten.
