生成AIが作ったフェイク画像・動画を見破れる!?　東大発のベンチャー企業が企業向け検出サービスを開発

2024/04/10（最終更新日：2024/04/10）

目次: +各種データに対応したプロダクトをSaaSで提供; +どんな機能があるのか; +最新技術もAI自身が学習していく; +今後の展望は？

ChatGPTをはじめとした生成AIが一般化・高度化し、情報の信頼性をいかに確保していくかが重要視されています。

AIの総合研究所として活動する東京大学発のベンチャー企業・NABLAS株式会社（以下、NABLAS）は、企業向けフェイク検出サービスをリリースしました。

各種データに対応したプロダクトをSaaSで提供

NAVLASのフェイク検出器「Fake Detector」は、画像・動画・音声・テキストとさまざまな形式のデータに対応しているそうです。データがAIによって生成されたものであるかを判定する形で、信頼性のチェックを行えるといいます。

今回のサービスでは、SaaSモデルでの提供となり、検出したいデータに合わせた検出モデルのカスタマイズや利用環境に合わせた基盤の構築など、企業ごとのニーズに合わせたサービスが提供できるそうです。

「Fake Detector」には2つの機能があります。ひとつは、調査したいデータのなかから、AIによって生成されたフェイクデータを検出するアプリ。

もうひとつは、情報の信頼性を確かめる鑑定・レポートサービスです。

アカウントや拡散経路の信頼性の調査、データの加工やデータの内容とそこに含まれるリンクなどの付帯情報を踏まえたファクトチェックなど、過去画像の改変や編集されたデータを総合的に調べることもできるといいます。

多面的なチェック・レポート機能を自動化させることで、ユーザーがさらに迅速かつ正確に情報の信頼性を評価できる環境を整備する方針だそうです。

フェイク検出モデルの精度向上や、新たなフェイク生成手法への対応についても進めていく予定です。

＜参照＞

【関連記事】

U-NOTEをフォローしておすすめ記事を購読しよう