France 2030によって資金提供された技術研究プログラムConfiance.aiは、信頼できるAIを業界の重要システムに統合することを目的として、2024年9月に終了しました。得られた成果をもとに、Confiance.aiコミュニティは、獲得した成果の持続、研究活動の深化、ヨーロッパ規模での産業化の推進という3つの軸を中心に戦略を展開し、共同投資を継続することを決定しました。
「セキュリティ、信頼性、AIに基づくシステムの認証」というグランドチャレンジの一環として2021年に開始されたこのプログラムは、重要システムにおけるAIの開発と展開を指導する完全な方法論を開発しました。これには、耐久性、説明可能性、信頼性、特にヨーロッパレベルで採択中のAI法との規制の遵守といった重要な側面が含まれます。
エコシステムを構築するためのオープンソース財団
プログラムの新しいフェーズの柱の1つは、European Trustworthy AI Foundationの設立です。この財団の目的は：
- 初期プログラムで開発されたツールと方法論の普及；
- 共有基準を中心にヨーロッパのコミュニティを統合；
- 技術ソリューションを規制要件に合わせる；
- AI Trust Allianceへの参加を通じて、AIのシステムと組織の評価とラベル付けのためのヨーロッパのソリューションの実施に貢献。
新たな技術的課題をめぐるR&Dの新プロジェクト
AIが急速に進化する中、コミュニティは対応すべき新たな技術的課題を特定しました。具体的には：
- 技術知識管理に応用される生成AI；
- 物理モデルと機械学習を組み合わせたハイブリッドアプローチ；
- 複雑なシステムにおける新しい人間と機械の協力形態；
- すべてのインテリジェントシステムにとって重要な要件となったサイバーセキュリティ。
これらの研究は具体的なユースケースを通じて実施され、産業への移行ロジックで、ツール化された方法論を強化します。
責任あるAIの産業化を支援するための構造化された提供
企業による信頼できるAIの採用を促進するため、いくつかの措置がすでに運用されています：
- CentraleSupélec ExedとIRT SystemXの「信頼できるAI」専門修士課程などの教育提供；
- Airbus Protectによって提供される規制遵守ツール；
- Sopra Steriaが推進する責任あるAIの制約を統合する産業化サービス。
また、プログラムから生まれたスタートアップが設立され、産業エンジニアリングプロセスに統合可能なAIコンポーネントのガバナンスに特化したSaaSソリューションを提供します。
動員への呼びかけ
産業におけるAIの重要な課題を前に、Confiance.aiコミュニティは、すべてのヨーロッパの関係者にその活動への参加を呼びかけています。ヨーロッパにおける産業AIの未来を積極的に形作ることに貢献してください。
IRT SystemXのディレクターでこのプログラムを指揮したPaul Labrogère氏は次のように締めくくります：
「私たちのコミュニティは、AIの行動サミットで信頼できるAIが注目されたことを喜んでいます。このサミットは、公共、民間、学術の関係者を動員して、AIを巡る信頼のエコシステムを構築する必要性を示しました。特に、産業および責任あるAIの分野で、ヨーロッパは過去4年間でConfiance.aiプログラムによって構築された世界最大のコミュニティにすでに依存することができます。私たちはすでに、ヨーロッパの産業界が新しい革新的で競争力のあるサービスを市場に展開するために、信頼できるAIソリューションを統合する準備が整っています。」