Hannover Messe 2024

Exponat 1: »KI-Zuverlässigkeit in der Produktion«: Prüftools zum systematischen Testen von KI-Modellen

Ein Prüfwerkzeug für KI-Modelle, die in der Produktion sowie im Maschinen- und Anlagenbau eingesetzt werden, ermöglicht die systematische Schwachstellensuche von KI-Systemen, um so deren Zuverlässigkeit und Robustheit sicherzustellen.

Unsere Methodik beruht darauf, den Anwendungsbereich des KI-Systems genau zu spezifizieren. Konkret geht es darum, den Raum der möglichen Eingaben, die das KI-System verarbeitet, zu parametrisieren und mit einer semantischen Struktur zu versehen. Mit den KI-Prüfwerkzeugen, die wir unter anderem im KI.NRW-Flagship-Projekt »Zertifizierte KI« entwickelt haben, lassen sich dann Fehler der KI-Systeme erkennen.

In dem Forschungsprojekt werden gemeinsam mit Partnern Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz entwickelt: Unternehmen erhalten mit dem KI-Prüfkatalog einen praxisorientierten Leitfaden, der sie befähigt, ihre KI-Systeme leistungsfähig und vertrauenswürdig zu gestalten.

Ein aktuelles Whitepaper beschäftigt sich zudem mit der Frage, wie mit Generativer KI und Foundation-Modellen entwickelte KI-Anwendungen bewertet und gesichert werden können.

Exponat 2: »Who’s deciding here?!«: Wer soll entscheiden – Mensch oder KI?

Das Gemeinschaftsexponat der Fraunhofer-Allianz Big Data AI greift mit dem Titel »Who’s deciding here?!« das Thema »Freiheit« des Wissenschaftsjahrs 2024 des Bundesministeriums für Bildung und Forschung auf: Wie beeinflussen Technologien wie Künstliche Intelligenz unsere Entscheidungsfreiheit? Wie vertrauenswürdig sind die KI-Systeme, die in immer mehr sensiblen Anwendungen zum Einsatz kommen sollen?

Das Exponat ist als interaktives Spiel gestaltet, bei dem Interessierte den Einsatz von KI im Alltag reflektieren können. Welche Entscheidungen können und wollen wir KI-Algorithmen überlassen, und welche sollten wir besser selbst treffen?  

Use Cases für professionelle Anwendungen

Außerdem präsentieren die Institute der Fraunhofer-Allianz Big Data AI mehrere konkrete Anwendungsbeispiele aus verschiedenen Anwendungsbereichen. Die verbindende Fragestellung aller Use Cases: Wie lässt sich KI-Technologie kontrolliert und sicher einsetzen?

Mit ihren Lösungen leisten die Fraunhofer-Forscherinnen und Forscher einen wichtigen Beitrag in Hinblick auf technologische Souveränität und Unabhängigkeit deutscher Unternehmen: Gerade die aktuelle Entwicklung von Generativer KI zeigt das riesige Potenzial, aber auch die Herausforderungen dieser Zukunftstechnologie in Hinblick auf Sicherheit, Transparenz und Datenschutz auf.

• Weitere Informationen