1. 【全文】アルゴリズムはもはや「ブラックボックス」だ:マーケットや文化を蝕むアルゴリズムの危険性

【全文】アルゴリズムはもはや「ブラックボックス」だ:マーケットや文化を蝕むアルゴリズムの危険性

 普段、私たちはAmazonやネットでのサービスを利用するときに、レコメンドされるものやオススメされたものを何気なく見ているという方も多くいるのではないでしょうか。Webサービスのレコメンドエンジンや、マーケットでの株取引などは全てアルゴリズムで制御がなされており、複雑でもはや人間では到底理解できないような計算によって求められているとMITメディア・ラボに所属する物理学者ケヴィン・スラヴィンは言います。

 ここではケヴィン・スラヴィンがTEDで行った、アルゴリズムが世界にどのような影響をもたらしているのか、そして、アルゴリズムがもはや人智を超えたものになっているという警告を示した講演を書き起こします。

スピーカー

ケヴィン・スラヴィン/MITメディアラボ 准教授

見出し一覧

・美しい山々が示す金融業界の「メタファー」
・マーケットは「ブラックボックス」の中で株の取引を繰り返す
・アルゴリズムが指す文化の物理学:多様なアルゴリズムの利用
・「海を開いてサーバーを作る」人間が起こすアルゴリズム狂想曲

動画

美しい山々が示す金融業界の「メタファー」

 この写真はマイケル・ナジャー(ドイツのヴィジュアルアーティスト)が撮ったものです。アルゼンチンに行って撮ってきたという意味では本物の写真ですが、同時にこの写真はフィクションでもあります。撮った写真に様々な手が加えられているからです。彼がこの写真に何を加工したのかというと、デジタル加工によって山の稜線の形をダウ平均株価のグラフにしたのです。写真にある、谷に落ち込んでいる絶壁は2008年の金融危機の曲線です。この写真は私たちが金融危機の底にいるときに作られました。今となっては、私たちがこの山のどこにいるのかは分かりません。
 こちらは香港ハンセン株価指数を山の稜線にしています。似たような地形ですね。どうして似た形をしているのでしょう?これはアートであり、メタファーでもあります。それ以上に重要なのは、これが牙のあるメタファーだということです。その牙のあるメタファーを解き明かすために、今日は現代数学の役割を再考したいと思います。金融数学でなく、もっと一般的な数学です。

 現在起きているのは、世界から何かを引き出していたものが、世界を形作り始めるようになるという変化です。私たちの周りの世界にせよ、私たちの中の世界にせよ、変化を起こしているはアルゴリズムです。アルゴリズムとは、コンピュータが判断をするときに使う、ある種数学的なものです。判断を繰り返す中で、アルゴリズムは真実への感覚を備えるようになり、そして最終的には現実になるのです。

マーケットは「ブラックボックス」の中で株の取引を繰り返す

 アルゴリズムとアルゴリズムが起こす変化について考えるようになったのは、2、3年前に飛行機の中で同年代のハンガリー出身の物理学者と言葉を交わした時でした。私は冷戦時代のハンガリーの物理学者たちがどんなものだったのか聞いてみました。「冷戦当時、あなたはどんなことをしていたのですか?」。彼は「もっぱらステルスを見破ることが仕事でした」と答えました。「いい仕事ですね。面白そうです。ステルスを見破るのはどういう仕組みなんですか?」と私は返しました。

 ステルスを見破る仕組みを理解するためには、ステルスの仕組みを知る必要があります。わかりやすく単純に説明しますが、空中に浮かぶ156トンの鋼鉄の塊がレーダーをくぐり抜けることは基本的には不可能です。存在自体を消すことはできないのです。しかし、巨大な鋼鉄の塊を何百万という小さなもの、例えば何か鳥の大群のようなものに変えることはできます。するとそれを見たレーダーは、鳥の大群が飛んでいるのだと錯覚します。この点でレーダーというのはあまり有能ではないのです。

 ハンガリーの彼は、「ステルスの仕組みはレーダーの欠陥に特化した話です。だからレーダーは当てにしませんでした。電気的な信号や電子通信を見ることができるブラックボックスを作ったのです。そして、電子通信をしている『鳥の群れ』を見たら、これはアメリカのステルス機かもしれないなと考えたわけです」と言いました。

 私は「それは素晴らしい。60年にも渡る航空学の研究を否定したわけですね。それで現在はどんなことをしているんですか?」と質問しました。すると彼は、「金融業界で仕事をしています」と答えました。私が「なるほど。どんな仕事をしているんですか?」と聞くと、「ウォールストリートには物理学者が2000人いて、私はその中の1人です」と彼は答えたのです。そこで私は「ではウォールストリートのブラックボックスは何でしょう?」と聞きました。「それは面白い質問ですね。実は、金融業界で物理学を応用することは、『ブラックボックス・トレーディング』と呼ばれているのです。『アルゴ・トレーディング』または『アルゴリズム・トレーディング』と言うこともあります」と彼は答えました。

 アルゴリズム・トレーディングが発展したのはある意味、金融機関のトレーダーが米国空軍と同じ問題を抱えていたからです。投資家や企業はマーケットで大量の株を動かしています。マーケットの株の取引を全て同時に行うのは、ポーカーで全財産賭けることに似ています。相手に手の内を明かすことになります。ここでアルゴリズムが登場します。株の取引を百万もの小さな取引に分割する必要があります。そして、この分割が魔術的で恐ろしいと感じてしまうのは、大きなものを無数の小さなものへと分割するのと同じようにして、数学は無数の小さなものを見つけてまとめ、マーケットで実際何が起きているのか見極めるためにも使えるということです。

 今、株式市場で何が起きているかをイメージしてもらうとすると、取引の分割を隠そうとするたくさんのプログラムと、分割を解き明かして出し抜こうとするたくさんのプログラムのせめぎ合いが起きているということになります。これは大変なことです。米国株式市場の70%でせめぎ合いが起きています。皆さんの年金やローンのうち、およそ70%がせめぎ合いの中で動いているのです。

 せめぎ合いをすることに対して、何か悪い影響があるのでしょうか?1年前のことですが、株式市場全体の9%の価値が5分間で消えてなくなりました。この事件は「2時45分のフラッシュ・クラッシュ」と呼ばれています。9%の価値が突如消えてなくなり、現在も何が起きたのかは誰にも分からないのです。誰かが仕組んだことでもなく、コントロールしていたわけでもありません。マーケッターが持っていたのは、数字が表示されているモニターと「停止」と書かれた赤いボタンだけでした。

 物理学者は、もはや自分では読めないものを書くことを仕事にしています。自分では判読できないものを書いているのです。自分たちの作った世界で起きていることについて、物理学者は感覚を失っていますが、それでも世界は前進しています。ボストンに「Nanex」という会社があります。Nanexでは数学や魔法のようなよく分からないものを使って、あらゆるマーケットデータからアルゴリズムを見つけ出しています。彼らがアルゴリズムを見つけ出したときは、それを引っ張り出して蝶のように標本にするのです。彼らは、私たちが理解していない巨大なデータに直面し、それに名前とストーリーを与えています。

アルゴリズムが指す文化の物理学:多様なアルゴリズムの利用

 この話の興味深い点は、このようなアルゴリズムの発見はマーケットに限った話ではないということです。アルゴリズムに関して一度その見方を覚えると、至る所で目にするようになります。

 例えばハエに関する本をAmazonで見ているとき、書籍の値段が170万ドルだということに気づくかもしれません。この本は今でも絶版になっています。この本をAmazonで見つけたとき、170万ドルで買っていたら実はお買い得な買い物でした。数時間後には書籍の値段が2,360万ドルまで上がったからです。誰も売り買いをしなかったのにも関わらず、値段が上がってしまいました。

 Amazonで起きた現象は、ウォールストリートと同じ現象だと言えます。そしてこのような価格の乱高下は、アルゴリズムの衝突が原因で起こりました。アルゴリズムが互いにループの中に捕らわれ、しかも常識的な観点でアルゴリズムを監視し、「いくらなんでも170万ドルは高いだろう」という人間の目が行き届かなかったのです(笑)

 Amazonと同じ現象はNetflix(オンラインレンタルDVD・映像ストリーミング配信サービス)でも起きています。Netflixはこれまでに数回にわたってアルゴリズムを変えました。最初のアルゴリズムは「シネマッチ」とよばれ、その後も「ダイナソー・プラネット」や「グラビティ」など、たくさんのアルゴリズムを試しています。Netflixが現在使っているのは、「プラグマティック・ケイオス」というアルゴリズムです。プラグマティック・ケイオスは、原則として他のNetflixのアルゴリズムと同じように、ユーザが次に見たいと思う映画をレコメンドするため、ユーザの頭の中のファームウェアを把握しようとします。しかし、これはとても難しい問題ですが、問題の難しさや私たちが仕組みをよく分かっていないということは、プラグマティック・ケイオスの効果を弱めることとは無関係です。プラグマティック・ケイオスは、最終的には借りる映画の60%を言い当てます。ユーザについての1つの考えを表す一片のコードのようなものが、映画レンタルの60%の的中をもたらしているのです。

 少し話は変わりますが、もし映画の評価を製作前にできたとしたら、それはかなり便利ではないでしょうか?イギリスのデータ分析専門家がハリウッドに赴き、映画のストーリーを評価するアルゴリズムを作っています。そのアルゴリズムを製作する会社はEpagogixと言います。映画の脚本をアルゴリズムにかけると、その映画は3000万ドルの興行収入があるだとか、2億ドルの興行収入があると言い当てるのです。NetflixやEpagogixのアルゴリズムが抱える問題は、Googleとは異なり、情報でも金融統計でもなく、文化をアルゴリズムで分析してしまっていることです。彼らが行っているのは「文化の物理学」だと言えるでしょう。

 もし「文化の物理学」によって作られたアルゴリズムがウォールストリートのアルゴリズムのようにクラッシュしまったとしたら、どうやってクラッシュしたと分かるでしょうか?どんな風にクラッシュの様子は見えるのでしょうか?
 アルゴリズムは家庭の中にも存在します。ロボット掃除機は、会社によって異なる2つのアルゴリズムを持っています。2つのロボットは「綺麗さ」について随分違った考えを持っているようです。ロボットの動きをスローダウンさせて、電球で動線を見ることで考えの違いがわかります。ロボット掃除機は「寝室の隠れた建築家」のようなものです。建築自体がアルゴリズムによる最適化の対象となるという考えもそれほどおかしな考えではありません。非常に現実的なことで、身の回りで起きていることなのです。

 建築がアルゴリズムの最適化の対象となっていることが一番よく分かるのは、「行先制御エレベーター」と呼ばれる最新式のエレベーターのアルゴリズムです。乗る人はどの階に行きたいのかエレベーターに乗る前に指定する必要があります。エレベーターには「ビンパッキングアルゴリズム」が使われています。このアルゴリズムはエレベーターを好き勝手に選ばせるような愚かなことはしません。10階に行きたい人は2番エレベーターに乗り、3階に行きたい人は5番エレベーターに乗せるという具合に制御します。このアルゴリズムの問題点はみんながパニックを起こすということです。なぜパニックを起こすのか分かりますか?エレベーターは大事なものを欠いているからです。エレベーターの中にはみんなが使い慣れているボタンがないのです。このエレベーターにあるのは、回数を表すために増減する数字の表示と「停止」と書かれた赤いボタンだけです。これが私たちをデザインしようとしているものです。私たちは、この機械の言葉に合わせて建築をデザインしているのです。アルゴリズムを使うことで人間はどこまで行けるのでしょうか?すごく遠い地点まで行くことが出来るのです。

「海を開いてサーバーを作る」人間が起こすアルゴリズム狂想曲

 それではそろそろウォールストリートの話に戻りましょう。ウォールストリートで用いられるアルゴリズムは何よりもスピードに依存しています。アルゴリズムはミリ秒とかマイクロ秒単位で動いています。マイクロ秒というとわかりにくいかもしれませんが、マウスのクリックは50万マイクロ秒かかると言えば感覚としてわかるのではないでしょうか。しかし、ウォールストリートのアルゴリズムは5マイクロ秒遅れたら負けるのです。だからもし皆さん自身がアルゴリズムなら、私がフランクフルトで出会った建築家を探すことでしょう。彼は高層ビルを空洞にして、家具などの人間用のインフラはすべて取り去り、床を鉄骨で補強してサーバの山を積み上げられるようにするのです。その建築は、アルゴリズムがインターネットに近づけるようにするためです。

 インターネットは分散システムだとお考えの人もいるのではないでしょうか。それはある意味では正解といえます。インターネットは場所が分散しています。ニューヨークではコロケーションセンターが分散の元になっています。コロケーションセンターはハドソン通りにあります。コロケーションセンターはケーブルがニューヨークに出てくる出口になっている場所です。この場所から離れるたびにインターネットの回線速度は何マイクロ秒かずつ遅れることになります。ウォールストリートに会社を構えるアルゴリズムの企業は、コロケーションセンターのまわりの空洞化されたビルに入り込んだ他社と比べて8マイクロ秒の遅れをとることになります。回線速度をめぐり、ビルが空洞にされることが起き続けているのです。なぜなら、どのような見地から見ても、ビルを空洞にすること以外に利益を絞り出す方法はないからです。

 しかしちょっと視点を広くしてみると、ニューヨークとシカゴの間に825マイルのトンネルがあるのが分かります。このトンネルは「Spread Networks」という会社によってここ数年の間に作られたものです。トンネルを通る光ケーブルを使うことで、マウスクリックの37倍の速さで信号を伝えることができます。そのトンネルやケーブルはすべてアルゴリズムのためのものなのです。考えてみてください。私たちは例えるならアメリカ中をダイナマイトとロックソーで切り進んでいるのです。アルゴリズムが3マイクロ秒早く売買できるようにするために、人の知ることのないコミュニケーションフレームワークのために、そして売買をすることとコミュニケーションフレームワークを作ることが「明白なる使命」であるかのように、常に新たなフロンティアを求めているのです。

 私たちには難題が他にも待ち構えています。今から話すことはMITの数学者が示した理論上の話で、私にもほとんどのことは理解できないものです。しかし、この地図ならわかります。
 この地図が表しているのは、もし赤い点で示されるマーケットで儲けようと思ったら、最大の効率を得るためにサーバを青い点のところに置く必要があるということです。お気付きかもしれませんが、青い点の多くは海の真ん中にあります。それが私たちがこれからするであろうことです。青い点の部分に水を排除してプラットフォームを作るのでしょう。何も無いところからお金を引き出すのです。アルゴリズムにとっては輝かしい未来と言えます(笑)
 実際に興味深い部分は、お金ではなくお金が動機付けるものです。私たちはアルゴリズム的な効率で地球を変えつつあります。マイケル・ナジャーの写真を今までの話を聞いてもう一度見れば、写真はメタファーではなく予言だということに気づくでしょう。私たちが起こしている地殻変動的な数学の影響に対する予言です。山が示す地形はいつもこのように奇妙で、不安定な人間と自然のコラボレーションによって作られてきました。しかし今では、第三の勢力としてアルゴリズムが台頭しています。アルゴリズムを自然の一部として理解する必要があるでしょう。ある意味では実際そうなのですから。

 どうもありがとうございました。

U-NOTEをフォローしておすすめ記事を購読しよう
この記事を報告する