AIの暴走を阻止するための企業「OpenAI」
人間よりもはるかに演算処理能力が高いコンピュータに、「ディープ・ラーニング」という考える力を与えるAIは、ターミネーターの世界のようにいつか人類を凌駕し、機械に支配された世界を実現する危険性を秘めている。
第7回目となる今回は2015年にマスクを中心に立ち上げられた,
AIの暴走を阻止するための非営利企業「Open AI」について述べる。
Open AIとは
2015年12月、マスクは「Open AI」という非営利企業を設立した。彼の共同設立者となったのは数々のITの起業家を支えてきた投資家、Yコンビネーターのサム・アルトマン氏。両氏は数十億ドルずつを負担して「AIの能力を最大限に引き出し、それを誰とでも共有する」企業を生み出した。
人工知能研究はまだまだ発展途上であり、開発にもお金がかかる。そのためそのような研究は多くは民間企業が行う一方で大学や公的機関で行われることもある。しかしこの財源も元を正せば国民の税金であるため、使い方は慎重にならざるを得ない。「結果が出る保証のない研究」や「国民の利益になる確証のない研究」などは行われず、当然それが民間の営利企業であればなおさらのことである。つまり、
利益を追求しない公的機関の研究においても強い縛りがあるということだ。
しかし当社は非営利企業であるため、そうした縛りに捉われず自由な研究が望めるのだ。
しかも当社の行う研究は公開されるため、他の企業や公的機関も自由に利用することができる。
共同設立者のアルトマンはDropboxやAirbnb、Amazonにも出資している投資家だ。これらはOpenAIの恩恵を受ける一方で、当社のAI研究開発にとっても非常に重要な企業となり得るだろう。
では彼はなぜ、このような企業を作ったのだろうか。
それは以前Neuralink（第1回）で説明した通り、彼はAI化時代をはっきりと
「恐れている」
と公言しているからだ。Tesla自身がグーグルのような自動運転システムをモデルSに搭載しており、AIから多くの利益を得ているのだが、
「人間が技術を使いこなすうちは良いが、いつか機械に支配される時代が来るのでは」
と、行きすぎたAIの発達に懸念を表明する。
その懸念の表れとして、設立されたのが当社であると言える。
どういう風にしてオープンソースでAI技術を共有することがAIによる世界支配を防ぐことになるのか？
答えはズバリ「1社がAI技術を独占し、その方向性が外側から決定できない事態を防ぐ」ことにある。例えばAI技術で現在最先端なのは間違いなくグーグルだが、グーグルにすべての技術が集中することをOpenAIがオープンソースによって阻止するということだ。
一方でオープンソースにすることで、マスク氏らに利益ももたらされる。誰もが参加できる技術フォーラムにより、世界中のすぐれた頭脳をサイト上で集めることができ、これまで自社だけの発想ではたどり着けなかった考え方に触れる可能性がある。またその結果、優れたアイデアを持つ研究者を世界中からリクルートできる、という可能性もある。研究者にとっては自分のアイデアを広く公開するチャンスであり、そこからシリコンバレーの一流企業にスカウトされる可能性もあるのだから、オープンソースへの参加は彼らにとっても利点となり得る。
「ディープ・ラーニング」を推進する上で大切なのはビッグ・データの存在だ。コンピュータが人の思考を学ぶためには膨大なデータの注入が必要となるが、オープンソースにすることでデータ獲得も容易になる。しかし一方で一部の人間がオープンソースのAI技術を悪用する可能性もある。この可能性について彼は、
「数の勝負になる。世界のほとんどの人は技術の悪用を考えていない。一握りの悪があっても、数の上で善が圧倒するため、技術の悪用は大きなリスクにはならない」
と楽天的だ。つまりどこかで悪用があっても、オープンソース上の技術者たちがこの悪用を阻止するプログラムを生み出す。ソースが同じ技術であるだけに、悪玉潰しはそう困難ではない、ということだ。
もちろん、AIはビッグ・データを必要とするため、現在開発途上の各社もある程度のオープンソースは行っている。グーグルは昨年11月、AIサービスを行うソフトウェアエンジン、「テンサーフロー」の一部を公開した。フェイスブックも12月にコンピュータサーバー「ビッグサー」のデザインの一部を公開している。公開することにより他者に利益をもたらす反面、他者がそれを改善して自社の利益に反映する期待が込められている。こうした情報公開により、AI全体がさらに精度の高いものへと推進される。ただしグーグルやフェイスブックが行っているのはあくまで「一部」の公開であり、Open AIのようにすべてを公開するものではない。そのため、両社にとってOpen AIはある意味でプレッシャーになりえるだろう。
具体的な活動
当社は2016年4月、「OpenAI Gym」を開発し、オープンソースのコードを公開した。AIシステムに、さまざまなゲームや課題を練習させることができる「ジム」だ。
OpenAIは使い方のガイドで、
「スコアの最大化ではなく、広く適用できるソリューションを見つけることが必要だ」
と述べていた。
このジムは、「複雑で不確かな環境において、エージェントに目標を達成させる方法を研究」する機械学習（強化学習）を研究する場となる。
OpenAIによれば、強化学習の研究は現在「減速」してしまっているが、それは、環境が標準化されていず、よいベンチマークがないという2点が理由だ。OpenAI Gymは「この両方の問題を解決する試み」だ、とOpenAIは説明していた。そしてさらに2016年12月16日にはAIの知能を測定・学習するためのソフトウェアプラットフォーム「Universe（ユニバース）」をリリース。これはいわば「OpenAI Gymの強化版」のようなプラットフォームである。
Universeは既存のライブラリであるTensorFlowやTeanoがそのまま使え、人間と同じようにコンピューターを使って様々なタスクを実行させるプラットフォームである。
具体的にはAIに画面上に表示される映像を認識させ、バーチャル上のキーボードとマウスを使わせることで、様々なタスクを実行させるという仕組みだ。AIが測定・学習に使用するゲームなどはすでに何千種類も存在し、その中にはSlither.ioやGTA Vも含まれている。これらを使用して強化学習でのAI学習を進める。新しく公開されたUniverseはGymにも対応しているため、Gymの利用者もスムーズな環境の移行が可能となる。
Universeが提供するゲームライブラリを構築するため、Microsoftを始めとした様々な企業が協力している。
OpenAIは AIをオープンソース化するための非営利研究機関と名乗るだけあって、方針通りUniverseのソースコードをGitHub上で公開している。
Universeが目指すのは
「困難な環境下や未知のタスクに対して素早く学習可能なプラットフォームを提供すること」
であるが、これは当社が4月に開発したGymと同様に、自分たちの研究を加速させるという狙いもある。
まだ当社は彼の手がける企業の中では目立った活動は少ないが、彼の目指す「AIが人類の脅威とならない世界」実現のため、そしてさらなるAIの有効的な利用のために重要な役割を果たす企業となるに違いない。
次回予告
第9・10回ではいよいよマスクが現在手がける企業の中で最初で最大の企業、そして彼の野望である「火星移住計画」を実現するかもしれない、「Space X（スペースエックス）」社について見ていく。
残り2回でとうプロジェクトブログも終わりとなる。ぜひ最後まで読んでいってほしい。
※記事の最新情報も投稿してますので、フォローお願いします！
