偽・誤情報、AIトラスト、AIセキュリティに対応する国際コンソーシアムを設立

はじめに

こんにちは、データ＆セキュリティ研究所の坂本・新田です。

現在、生成AI技術の発展は大きな可能性と共に、コンテンツの真偽性、AIシステムセキュリティ、倫理的利用やガバナンスといった喫緊の課題を提起しています。これらの課題は、ディープフェイクや偽・誤情報の拡散、プロンプトインジェクションのようなAIシステムへの新たな攻撃、さらには法規制への対応など多岐にわたり、一企業や単一技術では解決困難です。健全なAI技術の発展のためには、国際的な連携と多様な専門知識による多角的なアプローチが不可欠であると富士通は考えています。

この背景のもと、富士通は偽・誤情報対策、AIセキュリティ、AIトラストを核とした国際コンソーシアム「Frontria」を設立しました。Frontriaには50以上の組織が参画し、最先端の技術や知見を結集することで、信頼性と安全性を両立したデジタル社会の実現を目指します。

本稿では、まずFrontriaの活動を支える多様なステークホルダーが果たす役割と、コンソーシアムの主要な活動内容を解説します。そして、富士通がFrontriaに提供する技術の中から、今回は特に「偽・誤情報対策技術」に焦点を当ててご紹介します。

関連プレスリリース: 本コンソーシアムに関する詳細は、下記プレスリリースをご参照ください。

偽・誤情報や新たなAIリスクに対応する国際コンソーシアム「Frontria」を創立

「Frontria」：多様な英知を結集する共創のエコシステム

Frontriaは、AI技術の健全な社会実装を加速するため、多様な専門性を持つステークホルダーが連携し、知見とリソースを最大限に活用するエコシステムを構築します。参画組織は、各業界の課題やユーザーニーズ、技術IP（特許、技術ノウハウ、ソースコード、サンプルアプリ等）、データ、開発力を持ち寄り、活動を通じて技術を磨き、新たなアプリケーション／サービスを創出するとともに、普及のためのビジネスモデルの確立を目指します。

イノベーションパートナー：課題を定義し、技術の実証を牽引する

各業界のビジネス課題やユーザーニーズを提供し、技術実証の場の構築に貢献します。コンソーシアムの活動を通じて、Frontriaの最新技術への早期アクセスや、自社製品・サービスへの組み込みによる競争優位性を構築し、新たなAI関連市場の創出に繋がります。

技術IPプロバイダ：最先端技術でコンソーシアムを駆動する

偽・誤情報対策、AIセキュリティ、AIトラストに関する独自の技術IPを提供し、コンソーシアム全体の技術開発をリードします。技術の実践から得られる自社技術への多角的なフィードバックによって技術を深化させます。技術IPの幅広い活用を通じ、国際的なプレゼンスとリーダーシップを確立し、収益化の機会も創出します。

データプロバイダ：AI進化の源泉たるデータを供給する

技術の深化・アプリケーションやツールの開発に必要な学習データセットを提供し、技術の深化に貢献します。コンソーシアム活動を通じて、最先端技術による新たなデータ利用価値を創出します。他データとの融合、データクレンジング・アノテーション技術により、自社データの品質向上を実現します。

エンジニアリングパートナー：技術を社会実装へ繋ぐ架け橋

技術IPやデータを用いてアプリケーション・サービスを開発し、イノベーションパートナーへの導入を支援。研究段階の技術を実用レベルのプロダクトに落とし込みます。最先端技術を導入したアプリケーションやサービスの開発や、未開拓市場への参入など、多様なビジネス機会を発掘します。

インキュベータ：未来のAI技術を育成し、事業化を加速する

有望な技術・アイデアを持つプロジェクトに対し、活動資金や運営環境を提供し、コンソーシアム活動全体を支援します。偽・誤情報対策やAIセキュリティといった社会性の高い領域で、新たな技術の事業化を支援することで、AIエコシステム全体の発展に貢献できます。

Frontriaにおける主要な活動

Frontriaでは、技術開発の推進とオープンな協調を両輪とした活動を展開していきます。

ワーキンググループ（WG）活動による技術深化: 偽・誤情報対策、AIセキュリティ、AIトラストのコミュニティグループ（CG）を設置し、その下に特定の産業領域に特化したWGを組織。各WGでは、産業固有の技術課題とユースケースを掘り下げ、技術IP、アプリケーション、データセットを組み合わせ、プロトタイプ開発と実証実験を通じて技術検証を行います。
開発コミュニティ運営によるオープンな技術開発と交流促進: 開発コミュニティが提供するサービスを通じてソースコードやデータセットを共有し、共同開発を加速。定期的な技術コンペティションやハッカソンを通じて、新たなアプローチを発掘し、開発者交流と育成を促進します。サンドボックス環境を提供し、技術プロトタイプの評価・検証機会を創出。これらの活動を通じ、社会的課題の解決につながることを目指しています。

信頼と安全を支える富士通のAI技術：Frontriaへの貢献

富士通は、長年にわたるAI・セキュリティ技術の研究開発から得られた成果をFrontriaに提供し、その活動を技術的に牽引します。今回は、特に「偽・誤情報対策技術」に焦点を当て、多岐にわたるデジタルコンテンツの真偽性評価を支援する具体的な課題解決技術をご紹介します。

ディープフェイク検知技術: AIによって生成された偽造コンテンツの悪用を防ぐための検知技術です。少量の実データを基に本物の画像が持つ特性を学習し、その基準から外れる画像を検出します。このメカニズムにより、従来のディープフェイク検出器では対応が困難な特定のドメインにおいても、高い適応性と検出精度を発揮し、車両損傷写真やレシート画像などが偽物かどうかを高精度に検出します。この技術は、車両保険のリモート査定における破損車両画像の不正検査に役立てることができると考えています。
ディープフェイク検知技術
マルチモーダル総合真偽判定技術: テキストや画像などの異なるモーダル（形式）間の関係性を解析し、その結果に基づいて最適な分析手法や処理プロセスを決定、各分析結果を統合し最終的な真偽判定結果を導出します。客観的証拠に基づきテキスト情報の真偽を判定するテキスト真偽判定技術など、モーダルごとの技術を組み合わせることで、文脈整合性や画像改ざんの有無を評価し、矛盾があればその根拠を提示することで、説得力のある真偽判定を可能にします。この技術は、作成文書の社内外データとの整合性の確認や、企業の広報活動におけるファクトチェックに有用と考えています。