Finanziert durch France 2030, wurde das technologische Forschungsprogramm Confiance.ai, das darauf abzielt, Industrieunternehmen bei der Integration vertrauenswürdiger Künstlicher Intelligenz in ihre kritischen Systeme zu unterstützen, im September 2024 abgeschlossen. Angesichts der erzielten Ergebnisse hat sich die Gemeinschaft von Confiance.ai entschieden, ihre kollektiven Investitionen durch eine Strategie fortzusetzen, die sich auf drei Achsen konzentriert: die erzielten Ergebnisse zu bewahren, die Forschungsarbeiten zu vertiefen und ihre Industrialisierung auf europäischer Ebene zu fördern.
Gestartet im Jahr 2021 im Rahmen der großen Herausforderung "Sichern, Zuverlässigkeit und Zertifizierung von auf Künstlicher Intelligenz basierenden Systemen", ermöglichte das Programm die Entwicklung einer umfassenden Methodologie, die die Entwicklung und den Einsatz von KI in kritischen Systemen regelt. Diese deckt Schlüsseldimensionen wie Robustheit, Erklärbarkeit, Zuverlässigkeit sowie die Einhaltung von Regulierungen ab, insbesondere im Hinblick auf den AI Act, der auf europäischer Ebene in der Annahme ist.

Eine Open-Source-Stiftung zur Strukturierung des Ökosystems

Einer der Eckpfeiler der neuen Phase des Programms ist die Gründung der European Trustworthy AI Foundation. Diese Stiftung soll:
  • die im Rahmen des ursprünglichen Programms entwickelten Werkzeuge und Methodologien verbreiten;
  • eine europäische Gemeinschaft um gemeinsame Standards vereinen;
  • technologische Lösungen mit den regulatorischen Anforderungen in Einklang bringen;
  • zur Umsetzung einer europäischen Lösung zur Bewertung und Zertifizierung von KI-Systemen und -Organisationen beitragen, im Rahmen ihres Engagements in der AI Trust Alliance.

Neue F&E-Projekte rund um aufkommende Herausforderungen

Da sich die KI schnell entwickelt, identifiziert die Gemeinschaft neue technologische Herausforderungen, die angegangen werden müssen. Ziel sind insbesondere:
  • generative KI, angewandt auf das Management technischer Kenntnisse;
  • hybride Ansätze, die physikalische Modelle und maschinelles Lernen kombinieren;
  • neue Formen der Mensch-Maschine-Kollaboration in komplexen Systemen;
  • Cybersicherheit, die zu einer Schlüsselanforderung für jedes intelligente System geworden ist.
Diese Arbeiten werden durch konkrete Anwendungsfälle durchgeführt, in einer Logik der Übertragung in die Industrie, und werden die methodologischen Werkzeuge bereichern.

Ein strukturiertes Angebot zur Begleitung der Industrialisierung verantwortungsvoller KI

Um die Einführung vertrauenswürdiger KI durch Unternehmen zu erleichtern, sind bereits mehrere Maßnahmen in Betrieb:
  • Schulungsangebote, darunter der spezialisierte Master „Vertrauenswürdige KI“ von CentraleSupélec Exed und IRT SystemX;
  • Compliance-Tools, die von Airbus Protect angeboten werden;
  • Industrialisierungsdienste, die die Anforderungen verantwortungsvoller KI integrieren, insbesondere von Sopra Steria angeboten.
Ein aus dem Programm hervorgegangenes Start-up wird ebenfalls gegründet, mit einem SaaS-Angebot, das sich der Governance von KI-Komponenten widmet und in industrielle Ingenieurprozesse integriert werden kann.

Aufruf zur Mobilisierung

Angesichts der entscheidenden Herausforderungen der KI in der Industrie ruft die Confiance.ai-Gemeinschaft alle europäischen Akteure auf, sich ihrer Aktion anzuschließen: aktiv zur Gestaltung der Zukunft der industriellen KI in Europa beizutragen.
 Paul Labrogère, Direktor des IRT SystemX, der dieses Programm geleitet hat, schließt:
"Unsere Gemeinschaft freut sich, dass vertrauenswürdige KI beim AI Action Summit ins Rampenlicht gerückt wurde. Dieser hat die Notwendigkeit hervorgehoben, öffentliche, private und akademische Akteure zu mobilisieren, um ein Vertrauensökosystem rund um KI zu schaffen. Insbesondere im Bereich der verantwortungsvollen industriellen KI kann Europa bereits auf die weltweit größte Gemeinschaft zählen, die das Programm Confiance.ai in den letzten vier Jahren aufgebaut hat. Wir sind bereits bereit, damit europäische Industrieunternehmen vertrauenswürdige KI-Lösungen integrieren, um neue, hochkompetitive innovative Dienste auf ihren Märkten bereitzustellen". 

Übersetzt von Confiance.ai : une feuille de route européenne pour l’industrialisation de l’IA de confiance

Besser verstehen

Was ist generative KI und wie kann sie in der technischen Wissensverwaltung eingesetzt werden?

Generative KI bezieht sich auf KI-Modelle, die in der Lage sind, neue Daten mit 0e0hnlichen Eigenschaften wie die Trainingsdaten zu erstellen. In der technischen Wissensverwaltung kann sie Dokumente oder Analysen basierend auf bestehenden Datenbanken erstellen und somit den Wissenstransfer und die Aktualisierung vereinfachen.