映画「AI崩壊」を見てきた。あまりネタバレをしないように感想を書く。
簡単にストーリーの概要を書く。AI研究者の桐生は医療AI「のぞみ」を開発し、それは国民の医療や健康を担うライフラインの一つとなった。しかしある日それは暴走を始め、人の命を選別し始めた。疑いをかけられた桐生は、「のぞみ」を元に戻し娘の命を救うため、警察に追われながら巨大な陰謀に立ち向かう。
「AI崩壊」は、AIを中心とした情報社会についての様々な問題提起をしている。一つは、「AIをどこまで信用できるか」ということ。AIにどこまでインフラを任せるべきか、AIに人の命を預けていいのか。
この問題の根幹には、セキュリティの問題があると思う。どんなに高性能なAIでも、外部から侵入されて操作されるというリスクはある。この「AI崩壊」の話だって、暴走した原因はAIの主体的な判断によるものではなくて、マルウェアが侵入したことによるものだった。どんなにセキュリティが堅固でも、たとえAIがオフラインだとしても、クラッカーは侵入経路を見つける。侵入されたものがインフラの大部分を担う重要なソフトウェアであるならば、その被害はテロリズムどころではなくなる。この話では医療AIが乗っ取られ、ペースメーカーとか病院の設備とかあらゆるものが機能を失った。もし自動運転車のネットワークが乗っ取られたりしたら、乗員が死ぬだけではなくそれを何かにぶつけることによって甚大な破壊をもたらすことができる。AIに限らず、プログラムで動いているものは何でも、クラッキングされる危険性がある。そんなものに、どこまでインフラや人の命を任せられるのか。
全部人間がやればいいというのも違うと思う。まず人間は非効率的でヒューマンエラーをいくらでも犯す。クラッキングされないなら、AIの方がおそらく人間より安全で効率的だし、おれはAIに命を任せたい。それに、人間だって「ハッキング」される危険性は、無くもない。つまり、危険な思想を植え付けられたり、急に狂いだすとかだ。もし、インフラや人の命を担うような人間、例えば閣僚とか大企業の社長とか、そういう人間がいきなりホロコーストのような危険思想を唱え始めたらどうする？あり得ない話だと無視するのは勝手だが、少なくとも俺はAIがハッキングされるのと同じくらい危険で現実味があることだと思う。もしかしたらもう起こっているのかもしれない。
なので、セキュリティの問題があるからと言ってAIを否定し、人間の遅く不正確な情報処理に執着するのは、非常に短絡的である。とはいえ、情報社会においてセキュリティの問題はちゃんと対策を打っていかなければならないのも事実である。また、インフラを担うようなAIが攻撃されたときに、被害の伝播をおさえるためには、どうすればいいのだろうか。
後者の問題は、非中心型のネットワーク(D-web)が役に立つかもしれない。機能をネットワーク上に分散させて、ブロックチェーンで管理することができれば、改ざんが不可能であり、一部が攻撃されて機能を失ってもほかの部分は機能し続けることができる。
しかし、AIそのものにも問題があるかもしれない。AIが意志をもって反乱するかもしれないという議論は今のところ現実的ではないとはいえ、誤った判断を犯して結果的に人命にかかわるということがあるかもしれない。すでに、人材採用のAIが特定の人種や性別に不利な判断を下したりだとか、チャットボットがレイシストになったりとかという事件は起きている。それはAIのアルゴリズムや学習データ自体に問題がある。これも先ほど同様、人間にも同じような問題はあるのだが、これらの課題が解決されない限り信用に値するAIはできないんじゃないかなと思う。
AIの研究はかなり進んで実用化も高いレベルまで来ているが、AIがより社会に浸透していって信用を得るためには、セキュリティをはじめとする様々な課題がクリアされる必要があると考える。
次に考えさせられたのが、「監視社会」である。この話の中では、警察のAIが町中の監視カメラ、車のドライブレコーダー、スマホのカメラなど、あらゆるデバイスの映像にアクセスして情報を解析する。プライバシーなどゼロである。このAIは割と現実味がないものだったが、監視社会自体はすぐそこまで来ている。実際おとなり中国では町中のカメラが人々の顔写真を解析している監視社会がすでに実現している。アメリカだって、政府が電話の盗聴などをしていることがスノーデンによって明らかにされた。日本も、我々が知らないうちに見ているのかもしれない。
監視社会は、悪いことばかりではない。防犯上はとてもいいことである。常にみられているという意識があること自体が防犯につながるし、様々な情報を解析して犯人を特定したり追ったりすることができる。大量に生成されるデータを処理することによって、AIは街を効率化し、自らの精度をさらに高めることができる。
それでも、監視されることには嫌悪感を覚える。作中で刑事が「おまえ、セックスの途中に生配信されたら、いやだろ？」みたいなことを言っていたが、なかなか的を射ているなと思う。四六時中知らない人に監視されることの気持ち悪さをうまく表現していると思う。
データのプライバシーも、情報社会を迎えるにあたって深く考えなければならない点である。データを提供するほどAIの精度が高まるのは事実だが、自分に関するありとあらゆる情報を吸い取られて、AIが自分より自分に詳しくなったら、気持ち悪いだろう。俺は気持ち悪い。人間はだれしも、秘密にしたいことがある。それを全部無視して情報を吸い取られるだけなら、人間はもはや情報製造機でしかない。グーグルとかが俺たちから集めたデータを背後で売り買いしているのも気持ち悪い。データは情報社会を豊かにするが、その所有者は企業でなく我々自身であるべきであり、それを実現するための枠組みが必要だと思う。これもブロックチェーンがやろうとしていることである。
これからの情報社会は、AIとブロックチェーンに支えられるのかな、と想像している。
ところで、「AI崩壊」のストーリーの面白さは、まあ、まあまあといったところだったが、ところどころ「それありえなくね？」と思ったのがあった。例えば、桐生が流れてくるアセンブリのコードを見て「こ、これは、学習しているッ…！」となったところとか。Pythonのコードだったら簡単にわかるだろうけど、AIほどの複雑なプログラムのアセンブリを数十行見てそれが何しているのかわかるとかどんな天才だよ。てかアセンブリでAI作るとかむずすぎないか？知らんけど。
この映画を見てもう一つ思ったのが、一般大衆の目にはプログラミングとかAIとかどう映っているのだろう？ということ。この映画ではアセンブリとか16進数の羅列とかがしょっちゅう登場していたけど、プログラムって意味不明な文字列の並びで、コンピューターによくわからない命令しているものと受け取られている気がする。なんか頭のいい変な人たちがやるもので、俺たちが関われるような代物じゃないみたいな。少なくともプログラミングのプの字も知らないような人たちが、俺がプログラミングをしていることを知ると、なんかこういう反応をされることが多い。なんか難しそー、意味わかんないーみたいな。
そうだとしたらかなり大きな誤解なんだな。確かにプログラミングというと、暗い部屋でフードを被ったハッカーが、黒背景に緑の文字が表示されているスクリーンを見て何かよくわからない文字とか数字とか記号とかをタイプしている、みたいなイメージがあるかもしれない。まあそれは、プログラミングとかハッキングの話題になるたびにそういうイメージ画像を流すメディアが悪い。プログラミングをしている側からすると、プログラミングはただの言語学習なんだな。日本語とか英語と同じな。ロシア語は何言っているのか全然わからないけど、少し勉強すればこんにちはくらい言えるようになるだろう。勉強を続けていけばもっといろんなことが言えるようになっていろんなことが理解できるようになる。プログラミングだって、はじめはなんかよくわからないすごいことのように思えるけど、ちょっと勉強すればHello worldが書けるようになって、もっと勉強すればいろいろなことが表現できるようになる。別に大したことはない。プログラミングをするのは外国語をしゃべるのと同じようなもの。ただ習得がずっと簡単なだけ。それでいてゲームとかいろいろ楽しいものが創れてしまう。プログラミングは簡単で楽しいものだという認識を広める必要があるな。
あと、AI。作中では「のぞみ」がなんか派手な容器に包まれて、神々しい感じで祀られていたが、普通AIはあんな変な形してないからね？ただのプログラムだからね？普通のコンピューターに入ってんだからね？わかってる？これでなんかAIは禍々しい、人間が触れてはいけない領域のものみたいな変なイメージがついたらいやだな。それにAIは自分で考えたりしない。人工知能とか言っているけど、知能のかけらもないただの統計マシンであることが、ちゃんと一般大衆に理解されているのだろうか？AIが意識をもって反乱を起こすかもしれないからやめろ！みたいなこと言われても、AIを作る側は困るんだよな…。AGIが完成すればそんなことあるかもしれないけど、そんなの何十年も先の話で、統計しかできない今のAIが反乱するとかSFに影響されすぎ。
ちゃんとプログラミングとか、AIについての正しい認識が広まってほしいな…。べつにみんなそれを勉強しろとは言わないが、少なくとも一般常識として、それらがなんであるのかくらいは知っておいてほしい。
と、こんな調子で、AIを学びたい身としてはいろいろ考えさせられる作品だった。ストーリー自体は正直微妙だったが、AI社会の危険性をいろいろ指摘できていたと思う。ただ、一般大衆にプログラミングとかAIに対する変なイメージが植え付けられないか心配である。
