第39回 全脳アーキテクチャ勉強会〜「記憶の自己構築性から脳と社会とAIの「知」を考える」

WBAIからのお知らせ
2023.10.28
有料動画をVimeoで配信中！

概要

全脳アーキテクチャ・アプローチでは、脳全体のアーキテクチャを学び、ヒトのような汎用人工知能を構築することを目指しています。
このアプローチにおいては、脳が適応的かつ創造的に知識を形成する高度な情報処理の理解と構築が非常に重要な要素となっています。
今回、神経活動、認知機能、記憶、視覚認識、ニューロテックといった多角的な観点から計算論的神経科学を研究している倉重宏樹氏をお招きし、「記憶の自己構築性から脳と社会とAIの『知』を考える」というテーマで、論文などでは表現しきれない部分も含め、研究に関する多くの興味深いトピックを記憶・学習の視点から位置付けてご紹介いただくとともに、その内容について議論する場とさせていただきます。

開催概要

講演スケジュール

時間 内容 講演者
17:55開場
18:00開会の挨拶司会者：森岡大成（実行委員長)
18:05趣旨説明（資料）山川 宏（WBAI）
18:10講演（資料）倉重 宏樹（東海大学）
19:45休憩（15分）
※ブレイクアウトルーム開設		1. パネル・ウォームアップ/質問募集
2. WBA技術ロードマップ
3. 実行委員会プレゼンツ
20:00パネル・ディスカッション田和辻可昌（東京大学）※モデレーター
倉重宏樹（東海大学）
鈴木雅大（東京大学）
山川宏（WBAI）
20:45Closing Remark森岡 大成（実行委員長）
20:47名刺交換会
※ブレイクアウトルーム開設		講師・登壇者とのネットワーキング・タイム
21:00終了※終了後に懇親会を予定（当日案内）

記憶の自己構築性から脳と社会とAIの「知」を考える

講演者：倉重　宏樹（東海大学情報通信学部）

概要：
記憶は構造を持ち、そこにおいて情報は複雑に組織化している。これが我々の認識や思考や行動を定め、さらには学習や自励的な変化を通じ、次の記憶の構造を定める。すなわち記憶とは、法則に従って再帰的に自己構築をし続けるある種の生命的なシステムであり、知の適応性/創造性や機能性はその構造とダイナミクスから理解される必要がある。神経科学や心理学において、今自分が持っている記憶に依存して次の記憶を作る法則やメカニズムはスキーマ同化やスキーマ調節の術語のもとで研究されてきた。そこでまず、自らのものを含めたそれらの研究が、記憶の再帰的自己構築性について何を示せており、何を示せていないかを説明する。先取りすれば、現状ではとくに記憶の大域構造の理解が欠けている。大域構造の自己構築の原理やそうして構築された構造そのもの、またそれらが脳情報処理にもたらす影響はほぼ分かっていない。そこで、それらに迫るためのあり得る手段を、神経生理学・大規模言語モデルAI・数理工学の知見に基づいて議論する。
またそうして構築された記憶の構造は、先に述べたように認識や思考や行動といった人の知的情報処理を規定する。では、どのように規定するのだろうか？これは脳のなかで記憶の大域構造がどのようにデコードされるかという問題に関係が深い。これを脳の可塑性とAIにおける“埋め込み表現”の知見から考えていく。
ところで、記憶の自己構築性に法則があるということは、記憶は自由ではないということである。つまりその法則に従って到達可能な状態の空間というものがある。そこでこのことの意味を、脳のみならず、AIや社会における知の生成にも敷衍して議論する。これは「『AIにできないことはなにか？』とはどのような意味の問いか？」という問題にも関わる。また、その上でこの到達可能な空間を拡げることはできるかについても議論し、それにかかわる自身の研究プロジェクトの現状をプレリミナリーな結果とともに紹介する。

パネルディスカッション

モデレーター：田和辻 可昌（東京大学）

登壇者：倉重宏樹（東海大学）、鈴木雅大（東京大学）、山川 宏（WBAI）

当日寄せられたご質問と回答

♦質問_1
Preplayはグリア細胞ネットワークの活用である。

♣回答_1
preplayがどのような細胞機序から生じるかはそれほど確定していないと思います。
一方で、グリア細胞、とくにアストロサイトは神経活動の多くに関わりますので、何らか関係あることはあると思います。ただそれは、神経活動に一般に関わるものであるので、神経活動のある種類であるpreplayにも関わるといった程度のことで、どのようにというところは多くが未知だと思います。
（by 倉重）

♦質問_2
スキーマ調節の話は、rule switching の話と関係したりするでしょうか。

♣回答_2
rule switchingは行動の柔軟性に関わる現象で、それとスキーマ調節が異なる現象かというのは大きな関心事の一つです。今回の結果はスキーマ調節はそれそのものではないことを示唆するものではありますが、rule switching・rule shifting・set shiftingに関わる神経機構がスキーマ調節をサポートする可能性は大いにあり得ると思います。逆転論述(reversal description)はreversal learning​​をもじってつけた名称ですので、その系統のタスクとどのように関係するかは常に関心のあるところです。
また当日も少し話しましたが、今回のスキーマ調節の実験は、まず価値中立・情動中立のなるべくプレーンな条件での現象を明らかにしようと設計しておりますが、ここからさらに情動や価値の影響なども考慮に入れていくことで、スキーマ調節という現象が総合的に明らかになっていくのではないかと思っています。
（by 倉重）

（参考）Fast rule switching and slow rule updating in a perceptual categorization task | eLife

♦質問_3
神経ネットワークのデジタルモデルで考えられていますが、シナプス、化学物質が関与してアナログ的な関与のモデルはありますか？

♣回答_3
現行の神経ネットワークモデルは実数入力・実数出力ですので、どちらかと言えばアナログ計算のモデルと言えると思います．なお実際の生物においても，シナプス前ニューロンの閾値下膜電位によって、後ニューロンに生じるシナプス電位が調節される現象が報告されています。(Shu， Hasenstaub， Duque， Yu & McCormick 2006 Nature; https://www.nature.com/articles/nature04720)
（by 倉重）

♦質問_4
LLMで作られる空間は、人類の言語使用の総体から作られるものだと思いますが、記憶の大域構造はそのでき方と可塑性において、似ているところと違うところがあるのかなと思いました。

♣回答_4
重要な指摘だと思います。
LLMで作られる空間が個人というより人類の総体的な構築物ということに関係して、実はLLMと記憶の大域構造の話のスライドには、左上の方にfine-tuningで個々人にフィットさせる手続きも書いてはあったのですが、実際にそれがどれくらい可能であるか分からないことと，それがうまく働かなくても意味のあることは十分できると思われることから、講演のなかではあまり触れませんでした。
しかし個人の知識へのtuningはのちのち確実に重要になってくることですので、考えていかないとならないことと思っております．LLMのfine-tuningの際に何が起こっているかは解明されてきつつありますので(パラメタ更新の低次元の部分空間への制限など)、それらを踏まえて個々人の記憶ダイナミクスを捉える方向を進めていくべきと思います。
また、スキーマ同化の研究の説明のところで、1年間の専攻学習あるいは集中的な試験勉強で得た学問的知識を事前のスキーマとする実験も紹介しましたが，そのようにある程度箱庭的ではあるが自然でリッチな知識を対象に、講演で説明したような手続きを行う等が次の一手かと思います。
（by 倉重）

♦質問_5
コードとデータが、脳内でどうやって保管されているのか知りたい。

♣回答_5

♦質問_6
手続き記憶とは、足し算、分数計算など？
意味記憶について、まずは、スキーマ同化とスキーマ調整があるのかと。。

♣回答_6
手続き記憶はスキル的な記憶ですので、たとえば自転車の乗り方などがそれにあたります。一方で、一般に思考と呼ばれる現象も一部は手続き化されるという話もありますので、たとえば足し算の仕方などは手続き化されているのではと思います。
スキーマ同化やスキーマ調節については、まずは意味記憶やエピソード記憶などの宣言的記憶の方の現象と捉えていただいてよいと思います。
（by 倉重）

♦質問_7
一つ一つの神経細胞の動き、それが複数集まった時のダイナミクス、短期・長期の記憶エングラムといわれるような領野にまたがる仕掛けが全体としてどうなっているかまでありますが、全般的に気にされているのかなと。
というか、どこかとっかかりになるところなり、手掛かりなりがないものかと。
アメフラシの研究でそういうのがあったように思いますが、人間レベルでやるのは大変ですね。
ある意味では、もっと高精度でリアルタイムな計測機器が必要という問題かもしれませんね。

♣回答_7
大規模計測は非常に興味のある方向性です。Neuropixel計測等には非常に期待しております。しかし現状で時間解像度のよい大規模計測は電位ダイナミクスやそれを反映したCa2+ダイナミクスですので、そこからどのような可塑性が働いているのかを推定できる手法が必要になってくると思います。さらに可塑性関連分子の大規模計測ができれば素晴らしいのですが…
（by 倉重）

♦質問_8
3000種類以上の細胞を特定、「脳アトラス」は何をもたらすか
https://www.technologyreview.jp/s/319694/scientists-just-drafted-an-incredibly-detailed-map-of-the-human-brain/では、こう書かれています。
「脳の複雑さには共通点がいくつかある。
たとえば多くの領域は同じ細胞型を持っているが、その割合が異なっている。
位置関係の複雑さにも驚かされる。
神経科学の多くの研究は、脳の外側にあり、記憶、学習、言語などをつかさどる大脳に焦点を当ててきた。
しかし、「実は細胞の多様性のほとんどに、脳の奥深くにある古い進化構造が関与している」とレイン主任研究員は言う。」

♣回答_8
私自身は大脳皮質や基底核のみならず、より下部の神経核や身体も含めた情報処理に興味を持っていますが、なかなかこれといった方向を見つけるのが難しいところでもあります。zona incertaとか迷走神経とか好きなのですが。
（by 倉重）

♦質問_9
記憶のネットワーク、スキーマ、同化と調節の話と多様体や埋め込みの話から、同化は既存の多様体の上での要素(群の元)とある事柄の対応づけをすることで、調節は多様体の次元を増やすことと、多様体上の要素の間の関係(群の演算)を修正すること、なのかなと思いました。

♣回答_9
学習した事柄もまた次には要素となりますので、まずは対応づけであっても、同化でも調節でもそれが要素に含まれていくことは考えないとなりません。
なお、群論との関わりで言うならば、記憶の構造をLie群と捉えたとして、その位相構造の変化が調節であるのかもしれません。
妥当な数理モデル化の方向性をいろいろと探ることは大事だと思っております。
（by 倉重）

♦質問_10
万能チューリングマシンを超知能は超えられるか？

♣回答_10
その答えは、物理法則がどうなっているかということに尽きると思います。
真の意味での実数計算が物理法則として許容されるか。
（by 倉重）

運営スタッフ

  • プログラム委員長：山川 宏（全脳アーキテクチャ・イニシアティブ）
  • 実行委員長：森岡大成（実行委員会）
  • 司会：森岡大成（実行委員会）
  • Zoomホスト：片山立
  • Zoom共同ホスト：生島高裕、西村由弥子
  • connpass：西村由弥子
  • 広報/WBAI事務局：荒川 直哉（WABI）
  • QA担当：実行委員会
  • 学生招待担当：実行委員
お申し込みサイトへ