AIを活用した不正検知サービスやサイバーセキュリティーサービスを開発・提供している株式会社ChillStack。
同社の代表を務めるのは、国際セキュリティーコンテストでの優勝経験もある伊東道明さんです。
今回は、AIがもたらすリスクの1つである「ハルシネーション」と、我々はどう備えれば良いのかについて伊東さんに聞きました（全3回中2回目）。
インタビュー第1回「AIを使ったサイバー犯罪がはびこる!? 個人や企業にできる対策とは ChillStack代表・伊東道明さんインタビュー（1）」はこちら
AIが完璧になる時代はくるか？
ーーーセキュリティーリスク以外で、AI発展に伴うリスクはどういったことがあるのでしょうか？
生成AIサービスでは、「ハルシネーション」と呼ばれる、誤った答えを返してくることもあります。AIのアウトプットが100％正しい前提での使用は大きなリスクが伴います。
ChatGPTに質問すると、誤った回答が来ることも。
生成AI以外でも、たとえば医療分野でレントゲン画像からガンを診断するAIを利用する場合でも、AIはあくまで補助的なツールであり、最終的な診断は医師が行わなければならないとされています。
生成AIを含めてAI全般を利活用する際は、アウトプットが100%正しいとは限らないと意識する必要があります。
―――AIの回答精度が100%になる日は来るのでしょうか？
個人的には難しいと思っています。
というのも、例えばテストデータ上では100％の精度を誇る完璧なAIができたとしても、現実の世界では、さまざまな出来事が毎日のように発生していて、情勢が大きく移り変わっていきます。
情勢が移り変わっていくにつれ、AIを開発した時点でのデータの分布が実際のデータ分布と異なってくることが多々あります。
重要なのは完璧なものを作るという意識よりも、100%ではない前提でどうAIを活用するか。
さらに、限られた予算や時間の中で実世界に沿ったデータに対してAIの精度を検証し続けることができれば、よりAIを正しく利活用できるようになると思います。
―――僕は、ChatGPTに対して「ネットで調べて教えてください」という指示の出し方をすることもあるんですけど、そのやり方でもハルシネーションを防ぐのは難しいですか？
完全に防ぐのは難しいと思います。ChatGPTがきちんと正しい情報を探しに行く保証はできないのが現実です。人間が出力をコントローラブル（コントロール可能）にすることは、現時点ではまだ難しいとされています。
コントローラブルになるよう、現在世界中の研究者が色々な観点から生成AIの挙動を研究し論文も多数発表されていますので、これから徐々に進んでいく分野だと思います。
―――実際に調べてもらってる最中、参照先にWikipediaらしきものも出てきたこともありますね（笑）。
AI自身がハルシネーションを起こす場合もありますし、引用元の情報がそもそも間違っている可能性もありますよね。
AIの出力をコントローラブルにするのは非常に大きなメリットがあるという考えもありつつ、「人間がコントロールしないからこそメリットがあるのではないか」って声もあります。コントローラブルにするべきなのか、しないべきなのか、さまざまな議論が現在進行形で進んでいますね。
AI時代、どうすれば良い？
―――半年後にはどうなってるかわかんない世界だなと最近とても感じます。すごい人が「こうなります」という予測をしたけど、全然そうなっていないこととか、思っている以上に進んでいることがよくありますよね（笑）。
おっしゃる通り予測するのは難しい分野だと思います。固定電話の時代に携帯電話ができるのを全く想像できなかったのと同じように、予想外の進化が生まれる可能性が非常に大きいと思っています。
AIブームの歴史を振り返ると、1960年代から1980年代にかけて第1次、第2次AIブームが来たのですが、実現可能なものが限られることが判明し氷河期へ突入しました。
その後2000年代になると、GPU（画像を描写する際に必要となる計算処理を行うパーツ）の普及によりAIブームが再来しました。ですが、精度の問題やコストの問題なども含め、それでもできることは限られるとされ、ブームが落ち着きつつありました。
今回、生成AIの登場により再度AIに大きく注目が集まっていますが、活用できる範囲がだんだんと明確になってきており、次第にブーム自体は落ち着いてくると思います。
「より便利な手段として、AIが登場した」というのが大元で、たとえば2045年にドラえもんができたとして、何をするのかが重要だと考えています。
―――IMF（国際通貨基金）が、AIによって先進国の6割、途上国の4割で雇用に影響を与えるという分析結果を出していますが、どう見ていますか。
個人の感想になってしまいますが、代替される仕事もあるとは思いつつ、新しい雇用も生まれると感じています。
IMFのWebサイトより引用（https://www.imf.org/ja/Blogs/Articles/2024/01/14/ai-will-transform-the-global-economy-lets-make-sure-it-benefits-humanity）
たとえば生成AIの性能を最大限活用する「プロンプトエンジニアリング」を行う人や、AIのアウトプットを検証する人など、AIが普及したからこそ生まれる業務があると思っています。
AIに代替されて職を失う人なども出てくる可能性はありますが、新たに必要とされるスキルを身につけていくいわゆるリスキリングなどをきっかけに再度職先を得られるとおもいますし、技術の進歩に合わせて私たち個々人も変化していく必要があると感じています。
―――時代はどうしても変わっていくものだと思いますが、人間が適応できる速度で変わっていくことが大事なのかなと思います。
おっしゃる通りですね。すごく早い速度で時代が変化しているので、リスキリングが追いつかず、置いていかれてしまうケースが出てきていると思います。
時代の変化速度をコントロールできればいいのかもしれませんが、現実的ではないので非常に難しい問題ですね。
―――AIが発展している時代で、個人はどうすればよいと思いますか。
AIが誰でも使える時代では、AIを使って何をしたいのか、目的と課題は何で、課題をどう解決するのか。論理立てた戦略を考えて、実行する能力が問われてくるのかなと思います。
どんな職種であっても、あくまでAIは道具の1つであって、何を実現したいか目的を整理して、その目的を達成するためにAIが最適な答えだったなら利用するという考えが大切です。
第3回に続く。
【関連記事】
AIを使ったサイバー犯罪がはびこる!? 個人や企業にできる対策とは ChillStack代表・伊東道明さんインタビュー（1）
AIを活用した不正検知サービスやサイバーセキュリティーサービスを開発・提供している株式会社ChillStack。 同社の代表を務めるのは、国際セキュリティーコンテストでの優勝経験もある伊東...
中国ユニコーン企業がAIとEコマースに強いワケとは 日中の“オープンイノベーション”を推進するコンサルティング企業「匠新」代表・田中年一さんインタビュー（2）
中国・上海及び深センと東京に拠点を置き、日本と中国の企業に対してコンサルティングサービスなどを展開する会社「匠新（ジャンシン）」の代表を務める田中年一さん。 社外の知識やアイデア、技術など...
聴覚障がい者も交えた複数人の会議をスムーズに 落合陽一らが代表を務める会社が開発、聞こえの違いをつなぐサービス「VUEVO」とは
聴覚障がい者と聴者の間には、聞こえの違いによって、会議など複数人でのコミュニケーションが難しいという課題があります。 その課題を解決するために開発されたのが「VUEVO（ビューボ）」。 ...
はてブU-NOTEをフォローしておすすめ記事を購読しよう