[CFP(May 15th)] Toward Safe Brain-Inspired AI @ICONIP2025

WBAIからのお知らせ
2025.04.14

Call for Paper (Paper submission deadline: May 15th)

Introduction

ICONIP 2025,では、「Toward Safe Brain-Inspired AI」と題する特別セッションを開催します。本セッションは、人間の脳をインスピレーション源とするAIの安全性、解釈可能性、そして倫理的側面を強化することを目的としています。本セッションに投稿された論文は、特別セッションの一部として発表される予定です。私たちは、解釈可能で制御可能かつ安全なAIソリューションを追求する上で、計算論的神経科学と機械学習を融合させる革新的・最先端の研究を心より歓迎いたします。

Special Session Overview <Toward Safe Brain-Inspired AI>

現代のディープラーニングシステムは驚くべき成功を収めてきましたが、一方で解釈可能性、信頼性、および人間の価値観への適合（アライメント）といった重大な課題に直面しています。計算論的神経科学と機械学習の交差領域における研究は、人間の脳から得られる重要な原理――例えば疎結合でモジュール化されたネットワーク構造――を取り入れることで、より解釈可能で制御可能なAIモデルの開発が可能になることを示唆しています。同時に、これらのシステムが本当に有益であることを保証するには、AIアライメントのための堅牢な枠組みが必要です。こうした枠組みは倫理、政策、そして高度な神経技術を活用して潜在的な内部状態を検知し、社会的に受け入れられる結果へとシステムの振る舞いを導きます。

本特別セッションでは、脳に着想を得たメカニズム的解釈可能性、倫理的アライメント手法、および神経技術によるAIの認知的理解に関する最新の進展に焦点を当てます。生物学的観点に基づくネットワーク構造がどのように内部表現へのより明確な洞察をもたらすか、アライメントの仕組みをパフォーマンスを損なうことなく統合する方法、さらに認知神経科学のツールを活用して人間と人工知能の思考をより深く理解する方法を探求します。

学術界と産業界の視点を網羅した招待講演、一般公募の発表、そして学際的なパネルディスカッションを通じて、参加者は以下に関する総合的な見通しを得ることができるでしょう。

  • 脳に着想を得たAI（Brain-Inspired AI）
    • 疎結合かつモジュール化されたアーキテクチャ、生物学的に妥当な学習則、神経計算をリバースエンジニアリングする手法など。
  • AIアライメント（AI Alignment）
    • 高度な性能と安全性、倫理基準、ユーザーの信頼を両立させるためのバランスを探る。
  • 神経技術の応用（Neurotechnology Applications）
    • ニューロイメージングや認知モデリングを活用し、AIシステムを解釈して人間と機械の相互作用を洗練させる。

神経科学、AI、そして倫理の専門家を結集することで、このセッションは、人間を中心とした透明性の高く責任あるAIの開発を推進し、最終的には新たな協力関係を築くことで分野のさらなる発展を目指します。

Paper Submission Guidelines

We invite submissions of innovative and practically relevant research aligned with the themes of the special session. All submitted papers will undergo a rigorous peer review process and, upon acceptance, will be published as part of the Special Session while also being included in the Regular Paper section.

・Paper submission deadline: May 15th

・Submission Guidelines:
　https://iconip2025.apnns.org/call-for-papers/

The presentation time is planned to be around 20 minutes, including Q&A, similar to regular sessions, although this may be subject to slight adjustment. Additionally, the option to select the Special Session “Toward Safe Brain-Inspired AI” will soon be available.

Conference Dates & Venue

Conference Dates & Venue

  • Conference Dates: November 20-24
    　This special session will be held on the afternoon of November 20th, the first day of the conference.
  • Venue: OIST Conference Center, Okinawa, Japan

Program(Tentative)

  1. Introduction (15 minutes)
    • Hiroshi Yamakawa
    • A brief overview of the session’s scope and key objectives, emphasizing the importance of brain-inspired AI design, mechanistic interpretability, and ethical alignment.
  2. Invited Talk(20 minutes)
    • Hiro Taiyo Hamada (ARAYA)
    • Title: Trait alignment for AI safety
    • Humans are a model for AI safety, and multiple ideas are proposed to align human representation with AI by incorporating brain-inspired architectures like NeuroAI. Here, we will talk about a new proposal for AI alignment with AI trait/personality.
  3. Contributed Short Talks (50 minutes total)
    • Several presentations were selected from the submitted materials.
    • Potential topics include theoretical advances, experimental results, or practical deployments related to brain-inspired AI, mechanistic interpretability, ethical AI alignment, or neurotechnology-informed methods.
  4. Panel Discussion (25 minutes)
    • A moderated session featuring the speakers and session organizers.
    • Topics: Bridging neuroscience and AI; designing safe, transparent systems; ethical and societal implications of next-gen AI models.
  5. Closing Remarks (5 minutes)
    • Organizers summarize the main insights, propose next steps, and thank participants, speakers, and sponsors.

Organizers:

  • Hiroshi Yamakawa (The University of Tokyo / The Whole Brain Architecture Initiative):
    • Hiroshi Yamakawa is the Chairperson of The Whole Brain Architecture Initiative (WBAI), a non-profit organization, a Visiting Professor of the University of Electro-Communications and a Visiting Professor of the Kindai University. He received an MS in physics and PhD in engineering from the University of Tokyo in 1989 and 1992 respectively.  His research interest is brain-inspired artificial general intelligence and concept formation.
  • Akira Taniguchi (Ritsumeikan University):
    • Dr. Akira Taniguchi is a Lecturer in the Department of Information Science and Engineering at Ritsumeikan University, specializing in symbol emergence in robotics, cognitive developmental robotics, and brain-inspired AI. He earned his Ph.D. in Engineering from Ritsumeikan University in 2018. He has been recognized with several awards, including the Research Encouragement Award from the Robotics Society of Japan and the Best Paper Award (Franklin V. Taylor Memorial Award) from the IEEE International Conference on Systems, Man, and Cybernetics (SMC). His research focuses on developing probabilistic generative models for spatial concept acquisition and the Brain Reference Architecture inspired by hippocampal formation.
  • Takeshi Nakashima (Ritsumeikan University)::
    • Takeshi Nakashima is a doctoral student at the Graduate School of Information Science and Engineering, Ritsumeikan University. He received a MS in physics from Nagoya University in 2008. His research interest is the mechanism of adaptive behavior.

Supported by: