2017年度活動方針

活動方針に関わる諸状況

深層学習到来後のAI研究において、予期せざる大きな技術障壁が存在しなければ汎用人工知能実現の到達はさほど遠くないかもしれない。こうした議論は2015年頃よりしばしば当NPO法人周辺において語られてきました。

2017年現在において、Google DeepMind社を始めとする汎用人工知能開発組織が世間に公開している技術状況を見渡すならば、ヒトの発達に従うように子供のレベルから大人のレベルに向かって着実に進みつつあるようです。つまり汎用人工知能技術の進展のペースは衰えを知らず、大きな技術障壁に突き当たった様子は見当たらないようです。

汎用人工知能の開発を明言する組織は2015年に倍増しましたが、その後の世界においてどういった進展がみられているのでしょうか。DeepMind社は、ワンショット学習や転移学習など、数多くの汎用人工知能実現に向かっていると考えられる研究成果を公表しています。2015年にオープンでかつ人類全体の福祉に貢献する人工知能研究を目指して設立された OpenAI社は、汎用人工知能実現に資する研究成果やツールを発表しています。汎用人工知能の実現を目指している GoodAI社(チェコ)は、2016年に発表したロードマップに基づいて General AI Challenge という懸賞金を提供し、一般の開発者に汎用人工知能開発に加わってもらう取り組みをはじめました(日本国内では株式会社アラヤが紹介を行っています)。国内では、当NPO法人の代表が所長を務める株式会社ドワンゴAIラボで全脳アーキテクチャによる汎用人工知能の実現を目指した研究を行っています。また、株式会社アラヤも脳の理解に基づくAIの実現を目指しています。汎用人工知能の「身体化」研究である知能ロボティクスについてもいくつかのグループが継続して研究を進めています。

現在トップを走ると見られるDeepMind社における汎用人工知能研究は、内部ではさらに一歩先に進んでいるでしょうし、汎用人工知能研究を標榜している企業組織の多くは成果のほとんどを公開していないでしょう。さらに中国においてはChina Brain Projectを含む大規模なAI投資が進んでいます。さらにまったく汎用人工知能に言及せずにステルス的に研究をしている組織も存在するでしょうから、汎用人工知能開発の全体像は捉えることは困難です。ここでは潜在的に汎用人工知能開発においてトップを走っている組織を、汎用人工知能リーダーズと呼ぶことにします。汎用人工知能は将来的に大きな経済的利益をもたらすとしても直近の利益との関連性は薄いため、現状では汎用人工知能リーダーズを支えている組織は資金の潤沢な大手IT企業が中心となっています。

当NPO法人がNPOとして果たしうる役割

研究開発を進める汎用人工知能リーダーズは急速に技術を発展させている可能性があり、さほど遠くない未来にいずれかの組織が汎用人工知能の完成に到達する可能性は否定できません。

汎用人工知能リーダーズに比して規模が小さな我々当NPO法人は、こうした状況の下で「人類と調和する人工知能のある世界」というビジョンの実現に向かって何をなしうるのでしょうか。少なくとも確実に言えることは、汎用人工知能を人類に調和させるためには、強力な汎用人工知能が特定の組織に独占されることは望ましくないということです。特定の組織が汎用人工知能独占すると、その組織に世界中の富や権力が集中するような事態が考えられるからです。

そこで当NPO法人は、社会全体の利益を追求するボランティアや賛助会員の皆様に支えられたNPO組織という特徴を活かし、良い形で汎用人工知能技術の民主化する役割を積極的に担うべきだと考えます。そのためにはまず、汎用人工知能技術を開発できる良識あるエンジニアを増やしてゆくことを優先すべきでしょう。

当NPO法人がそうした状況を実現するには、技術者を集め汎用人工知能に対する理解を深めつつ、彼らと共に汎用人工知能に関わる最先端技術を常にキャッチアップし続ける必要があります。そして最終的にはトップに対してできるだけ小さな遅れをもって良識ある技術者と共に汎用人工知能の完成に到達できればよいでしょう。そして開発の途中から完成段階にいたる過程で知り得た技術知識を多くの人々に迅速に広める活動を推進すべきです。

また世界的に汎用人工知能開発が進んでゆきますが、その中でさまざまな予期し得ない情勢変化も起こりうるでしょう。そうした際に、私たちがNPO法人として組織的に汎用人工知能技術のキャッチアップを継続していることで、人類の未来に貢献する機会も訪れうると考えます。こうした技術自体は汎用的であるが故に、何らかのデータを持たなければ開発が進まないとか、特定分野知識に依存した知財権化に結びつくといったことがなく、キャッチアップの障壁は少ないでしょう。

ところで私たちは、キャッチアップすべき主要なターゲット組織としてDeepMind社を想定しています。なぜなら彼らが汎用人工知能リーダーズの中で際立った存在であると同時に企業としては比較的広く技術公開を進めているからです。しかも彼ら自身が明らかにしてきた、脳を参考とする汎用人工知能へのアプローチは、私たちが推進してきた「WBAアプローチ」との共通性が高いため技術的にみても追随しやすいからです。
なおWBAアプローチは「脳全体のアーキテクチャに学び人のような汎用人工知能を創る(工学)」というものですが、これは深層学習の進展を前提とした上での「汎用人工知能到達にむけた最速経路」として2014年に私たちが提案したものです。WBAアプローチ的に強力に研究を進めるDeepMind社が最速で汎用人工知能に到達する可能性は十分に高く、それ故、私たちにとってはキャッチアップ・ターゲットとして適切といえます。

いずれにしても今後、汎用人工知能開発が加速すれば、人類全体でそれら技術を共有したいという社会ニーズが高まります。そうした中で、汎用人工知能リーダーズが開発した汎用人工知能技術をキャッチアップし統合しながら、迅速に広めることを担う当NPO法人のような公益を目的とする組織の重要性は増大するでしょう。そうした状況において「作りながら広める」私たちのような活動への支持は広がるしょうし、当NPO法人は社会に大きく貢献するためにそのような状況を作り出していく必要があります。

私たち当NPO法人が同年3月に制定した基本理念(2章)は、まさにこうした活動の方向への発展を踏まえたものであり、その中で謳われているミッションは「全脳アーキテクチャのオープンな開発を促進する」ものです。そのため、WBAの開発にすでに関わっている皆様、これから関わってくださろうとしている方々と共有したい価値観として、広く世間をみわたして汎用人工知能の社会への影響について見識を高めつつ、汎用人工知能開発に関わる専門知識を学び拡め、その上で共に汎用人工知能を作り上げてゆくことを目指すと宣言しました。つまり汎用人工知能を「作りながら広める」ことこそが私たちが自身の利益を追求しないNPOだからこそできることではないかと考えます。

ところで2016年後半くらいから、世界的に見て人工知能の倫理面に関わる議論が高まりを見せています。2017年1月にFuture of Life Institute (FLI)が23項からなるアシロマ原則をとりまとめました。同年2月に日本の人工知能学会が倫理指針をとりまとめており、総務省もAIネットワーク社会推進会議において検討を進めています。当NPO法人が制定した理念も、こうした流れの中に沿ったものといえます。

以下では、当NPO法人が2017年に推し進めてゆく具体的な活動として、汎用人工知能を人類に調和させるための方向付け、成長戦略、開発戦略について順に述べてゆきます。

  1. 当NPO法人の技術戦略はDeepMind社のそれと共通性が高いですが、当NPO法人では後述するWBCA上での共創に力点を置く点が異なります。最初の汎用人工知能が如何なる形で完成に至るかを予測することは困難ですが、当NPO法人は脳型統合プラットフォーム上にて多くの技術者が学びながら共同することによりWBAを完成するシナリオを描いています。これにより汎用人工知能技術を民主化できると考えるからです。いずれにしても汎用人工知能技術は段階的に汎用化が進展することで次第に社会実装されてゆくでしょう。その変化過程において研究、開発、社会実装とフェーズが進んでゆきますが、その流れの中では何らかのプラットフォーム上での技術統合や複数エンジニアによる共同開発の要素が増すことは間違いありません。その時に当NPO法人周辺において善良なる技術者のコミュニティが拡大しているならば、汎用人工知能の実装をになう人材の供給源になりつつ、広く汎用人工知能を利用したビジネスの普及を促進するでしょう。
  2. Future of Life Institute(FLI)は米国ボストンに拠点をおくボランティア運営の研究支援団体で、人類の存続を脅かす危機を緩和するために活動を行っています。創設者はSkype共同創業者Jaan TallinnやMITの宇宙学者マックス・テグマークらです。

人類と調和させるために

汎用人工知能技術は強力であるがゆえに良くも悪くもその影響が大きいものです。ですから、汎用人工知能を人類といかにして調和させるかが重大な課題となります。その点、WBAアプローチから作られる汎用人工知能は、脳全体のアーキテクチャに学んでいることにより、人から理解しやすく、人のような価値観をもたせやすいというメリットがあります。開発にあたっては、その利点を引き出しつつ、さらに安全性、ロバスト性、説明可能性、制御可能性、倫理性といった望ましい性質を高めてゆく必要があるでしょう。つまりWBAの開発が望ましい性質を備えたものとなるよう促進すると同時に、開発するAIが人類に調和しうるものであるかの評価についても考える必要があります。

ここ一年ほど、世界的に見て人工知能の社会への影響について扱い議論する組織や会議が増えています。当NPO法人ではその主要メンバが、すでに国内においてAIの社会への影響について検討する委員会や研究会で活発に活動してます。たとえば、総務省のAIネットワーク社会推進会議、人工知能学会の倫理委員会、Acceptable Intelligence with Responsibility (AIR)、AI社会論研究会などがあります。国際的には先に述べたFLIらとの協力を始めており、これまでにBeneficial AI 2017で作成されたAI開発のガイドラインとしてのアシロマ原則の和訳に協力したり、FLIのサイトにおいて当NPO法人代表の山川のインタビュー記事の掲載などを進めてきました。

当NPO法人としては、今後共、この分野における世界的な動向を見渡してゆきたいと考えています。それと同時に具体的に開発を進める技術者と、利益をもたらすAIのあるべき形についての共有を進める方向性を模索してゆきたい。こうした動きの一つとして、ドワンゴAIラボと慶應義塾大学今井ラボとの共同研究では、脳型AIにおける安全技術に向けたモデル開発の研究に着手しています。

関連して2017年5月に当NPO法人事務局と同じビル内において「人類とAIの黄金比を想像する場」としてφcafeが設立されました。ここでは当NPO法人の第3回ハッカソンの他に、強化学習アーキテクチャ勉強会、AI社会論研究会などといった当NPO法人活動に関連の深いイベントも継続的に開催される予定です。

成長戦略

汎用人工知能に向かう技術発展がもたらす人類への影響は利益とリスクの両面において産業革命をもたらした蒸気機関に匹敵しうると予想され、さらには地球上の生命の歴史に重大な変化をもたらす可能性もあります。特にAI自身によって再帰的に自己改善を行える段階に到達した後では、その制御の難しさが予測されるため、可能な限りプロアクティブな対策を講ずるべきでしょう。

そうした中で、私たち当NPO法人を含めて「最新の汎用人工知能技術を把握しながら人類の利益を追求する公益組織」が多様な形で存在することは、人類が採りうる有効な選択肢の幅を広げることに貢献するでしょう。こうして私たち当NPO法人が良い影響を人類の将来にむけてもたらしてゆくためには、その組織自体を成長させてゆく必要もあります。

そのためには私たちが提唱した基本理念の波及範囲を拡大し、それらを共有しうる個人や組織を増やすことが基本的な戦略となりますし、それらを通じて運営基盤自体の強化も進むと考えています。2017年5月に英国で行われたGatsby-Kaken Workshopにおいては、Gatsby神経科学ユニットやDeepMind社のメンバーらと、当NPO法人が目指す人類と調和する汎用人工知能開発について情報発信しつつ意見交換を行いました。また8月には国際会議 BICA 2017、IJCAI2017 Workshopなどにおいて全脳アーキテクチャに関わる研究成果を発表してゆきます。こうした活動を継続することで国際的な情報発信も進めてまいります。

当NPO法人が技術を把握しつつ公益を追求する組織として今後さらに発展してゆくためには、それを支える体制も重要になります。このためには、ディレクションを支える体制、基盤技術を支える体制、WBA開発を支える体制、当NPO法人の運営を支える体制、財政を支える体制の5つが重要となっています。

まず激しい外部環境の変化に応じて適切なディレクションを支える体制は、当NPO法人の創設時より、国内トップレベルの人工知能および神経科学の研究者、人工知能の社会への影響に造形の深いメンバらが結集した当NPO法人の正会員を中心としたメンバによって支えられています。

基盤技術を支える主な体制としては、ドワンゴ−理研QBiC共同研究によるBriCAコア開発や、ドワンゴAIラボによるコネクトーム情報学研究、新学術領域研究「脳情報動態」における新皮質標準アルゴリズムの研究などがあります。

WBA開発を支えているのは主にWBA開発部のボランティア技術者らです。最近は記号創発ロボティクス研究チームとの連携を探り始めています。また、ハッカソンなどにおいては、新学術領域研究「人工知能と脳科学の対照と融合」から支援を受けています。

運営面においては、毎回の勉強会、シンポジウム、ハッカソンなどにおいて、ボランティアの当NPO法人サポータズの支援を受けています。特に、第三回のWBAハッカソンの企画・運営においては、国立情報学研究所、はこだて未来大学、電気通信大学、京都大学、慶応大学など多方面からの支援を受けています。そして、それを更に下支えしているのが、当NPO法人の事務局となります。

さらに、こうした活動を財政面からご支援ていただいているのが企業をはじめとする賛助会員の皆様で、2017年6月末時点で19の企業および個人の方にご支援いただいています。

開発戦略

当NPO法人の2017年の開発戦略では、すでに述べたような技術的状況および当NPO法人のNPOとしてのポジションニングを踏まえて、「オープン・プラットフォーム戦略」という立ち位置を明確化してゆきます。これはオープンなWBA共創的に開発が加速する状況をつくりだすことで、汎用人工知能技術の民主化を達成しようとするものです。

統合の前提となる最新技術のキャッチアップのためには、短期間で最新技術を動作させることができるオープンな技術者コミュニティが必要です。すでに昨年よりWBA開発部という形でボランティア開発者によるコミュニティ形成を進めており、現在Slackチームには200人程度が集まっています。2017年には、開発部の目標をキャッチアップを強調する形にディレクションすることで、最先端技術の検証や再実装を高く評価する方向に進めてゆきます。

他方でインテグレーションのために、オープンに多くの技術者が共同してWBAとして技術統合を進めるための足場となるプラットフォームが必要です。脳全体を参考としたアーキテクチャをソフトウエアとして実装するWBAアプローチにおけるプラットフォームは、主に3種類の研究によって支えられます。一つ目は、神経科学知見に整合的な認知アーキテクチャ自体を抽出するコネクトーム情報学です。二つ目は、多数の機械学習装置を脳のように分散させて実行するミドルウエアです、そしてこれら二つの技術群をつなぎ合わせる要となるのが、BriCA言語を中心としたドメインモデルです。

  • ドメインモデル:ソフトウェア構築における関係者間で考慮すべき範囲の概念を共有するために用いられるシステムに関わる様々な実体とそれらの関係を説明する概念モデル

BriCA言語 (Brain-inspired Computing Architecture Language) は、機械学習装置を脳のように配置するための設計図を記述するシンプルなアーキテクチャ記述言語です。2015年に公開されましたが本格利用には至っていませんでした。しかし、2017年9月に開催する第3回目の全脳アーキテクチャハッカソンにおいては、BriCA言語で記述されたアーキテクチャを利用し、全脳アーキテクチャのプロトタイプの完成を目指す段階に到達しようとしています。これによりはじめて、全脳アーキテクチャを共創開発するための足場が稼働し始めることになります。

コネクトーム情報学については、メゾスコピックレベルのコネクトーム情報を利用したWBCA(全脳コネクトームアーキテクチャ)とよばれる脳型認知アーキテクチャの開発を進め、これをBriCA言語で記述しています。現状では主にドワンゴAIラボの支援を受けて、マウスのWBCA開発を進めています。すでに視覚野については完成し、2017年中にマウスの全脳についてのWBCAの初期バージョンの完成を目指しています。なお、脳をまねて機械学習モジュールを配置することは制約であるため、ある種の不自由さを伴います。しかし唯一存在する汎用人工知能の例としての脳に似せることは、合意しうる開発方針となり、リソースを集中できるため、結果として汎用人工知能に到達するための早道となるでしょう。

脳型アーキテクチャにおいては、同じ機構でさまざまな機能を発揮する大脳新皮質局所回路の標準的なアルゴリズムを組み込むことの重要性は極めて高いものですが、大脳新皮質のアルゴリズムそれ自体を特定するにはまだ難しさがあります。そこで当NPO法人の研究者は、WBA開発に参入しようとするエンジニアの参入障壁を下げるために、標準的な新皮質局所回路の入出力を情報処理の視点から意味付けするドメインモデルを開発し(新皮質マスターアルゴリズム・フレームワーク)、新学術領域研究「脳情報動態」内の研究テーマとして発展させていく予定です。

具体的にアーキテクチャを実装するためのミドルウエアとしては、大規模計算や仮想時間を扱いうるBriCAコアの開発を当NPO法人の主導にて継続しています。一方で今後は記号創発ロボティクスの研究グループとの連携を強めるため、実時間のロボット制御に向いたROSをBriCA言語に接続する準備も開始しています。WBA開発に利用しうるミドルウエアは特に限定されるものではありません。また、その上に実装される機械学習等のソフトウエアも特に限定されるものではありませんが、ネットワーク上に分散させやすい技術として、ニューラルネットワークや確率的グラフィカルモデルなどを主に想定しています。

オープン・プラットフォーム戦略を機能させるには、プラットフォーム上で研究開発を進める技術者に集まっていただく必要があり、そうした人材を育成することも重要なテーマとなります。その点、当NPO法人は創設以前より勉強会を実施しており、2017年度も年間6回のペースでの実施を目指しています。さらに2017年度より神経科学分野の学生らが機械学習や人工知能を学ぶことでWBA開発に関われるスキルを身につけることを目標としたNiCO2AIスクールをドワンゴAIラボと共同で開講します。また、脳型の汎用人工知能について(国内外の)技術開発の促進に貢献された方を表彰し、そうした活動をさらに動機づけるための奨励賞の設置も行いました。最後に、開発部の活動自体がWBA開発にご協力いただける技術者を育成する場ともなっています。

おわりに

2013年12月に全脳アーキテクチャ勉強会を開始した際、すでに「全脳型 AI アーキテクチャの開発は世界的に早々に激化してくる可能性さえあります」と述べていましたが、いま正にその状況が現実化しているようです。当NPOを創設した2015年、私たちは「Let’s build a brain」をスローガンとして脳型の汎用人工知能を完成させることに重きをおいており、いまも、その精神を保ち続けています。一方で汎用人工知能リーダーズによる技術開発が急進展しています。これを踏まえれば、私たち当NPO法人の役割は「技術を把握しつつ公益を追求する組織」という側面が重要な存在意義になりつつあります。そこで重要になる開発のための戦略がオープン・プラットフォーム戦略であり、汎用人工知能リーダーズの開発動向をキャッチアップしながら、汎用人工知能技術を拡め開発できる人材を育成したいと考えています。

こうして汎用人工知能を「作りながら広める」ことは、利益に結びつけづらく、継続には大きな困難さを伴いますが、人類の将来にとって重要な意味を持ち、公益的組織だからこそなしうる事業でもあります。これまでも、企業・投資家・NPO・政策立案者・研究者・技術者・サポータなどの皆様より当NPO法人の活動に多大なるご協力・ご支援をいただいております。これに深く感謝するとともに、今後はさらにコミュニケーションを深めながら、皆様と共にさらに前に進んでゆきたいと考えております。