Numenta社のThousand Brains Projectについて

はじめに

先日Numenta社がXにて以下のポストを行なった。

ビッグニュースです！私たちは、Thousand Brains Theory に基づいた新しいタイプの AI の作成に特化したオープンソース、Thousand Brains Project の開始を発表できることを嬉しく思います。
@1000brainsproj

Thousand Braninsとは？

大脳新皮質を神経科学からリバースエンジニアリングした理論であり、Numenta社が20年以上かけて研究を行っている。

また、おそらく有名になった原因としてビルゲイツのおすすめ本としてこの理論が紹介されました。

「A Thousand Brains: A New Theory of Intelligence」

「脳は世界をどう見ているのか 知能の謎を解く「1000の脳」理論」

脳は世界をどう見ているのか: 知能の謎を解く「1000の脳」理論
脳は世界をどう見ているのか: 知能の謎を解く「1000の脳」理論
www.amazon.co.jp

新皮質の神経科学的構造についてや脳の小さな地図の中で現在地をどのように認識しているかということを具体例を用いて説明してくれている。

ちなみに新皮質は哺乳類の脳において新しく進化した領域であり、高度な認知機能を司ります。特に人間においては、新皮質が非常に発達しており、言語、推論、計画、抽象的思考などの高度な認知機能を支えています。

TBPの目的

TBPは、大量のデータセット、高エネルギー消費、連続学習の欠如、バイアス、解釈性の欠如など、現在のAIが抱える多くの問題を解決することを目指しています

千の脳プロジェクト (TBP) 概要

イントロダクション:

  • 千の脳プロジェクトは、ディープラーニングとは異なる原則に基づいたAIプラットフォームを開発することを目的としています。これは人間の脳の機能を模倣しています。
  • このプラットフォームには、モジュール型アーキテクチャと、AIアプリケーションを構築するためのSDKが含まれています。センサーモーター学習を強調しています。

主要な差別化要因:

  1. 具現化されたセンサーモーター学習: 静的なデータセットからではなく、環境との相互作用を通じて学習します。
  2. 構造化モデルと参照フレーム: モデルは参照フレームを使用して構造化されており、物体の学習と操作を迅速に行うことができます。

利点:

  • 長時間のトレーニングなしで、継続的かつ迅速な学習が可能です。
  • 複数のセンサー入力を使用して、世界との知的な相互作用が可能です。

コア原則:

  1. ユニバーサルプラットフォームと通信プロトコル: 多様なモジュール間の相互運用性を実現します。
  2. 脳研究からのインスピレーション: モジュールは皮質柱と脳の原則に触発されています。
  3. デモとオープンソース: 重要なデモとオープンソースのSDKを開発し、広範な応用を目指します。

目標:

  1. 長期目標:
    • センサーモーターシステムのためのユニバーサルプラットフォームを作成します。
    • 脳に触発された新しい機械知能アプローチを促進します。
    • 以前の研究を統合して単一のフレームワークにまとめます。
    • 重要なデモを通じて能力を示します。
  2. 短期目標:
    • 主要な学習メカニズムに焦点を当ててアーキテクチャの開発を継続します。
    • 進捗をオープンソース化して広範なコミュニティの参加を促進します。

アーキテクチャ概要:

  1. 三つの主要コンポーネント:
    • センサーモジュール: 生のセンサー入力を共通の表現に変換します。
    • 学習モジュール: センサー入力から物体をモデル化し認識します。
    • 共通通信プロトコル: 異なるモジュール間の相互運用性を保証します。
  2. 詳細:
    • 階層: モジュールを積み重ねて複雑な処理を行います。
    • 時間スケール: モジュールは様々なアプリケーションに対して異なる速度で学習します。
    • 投票/コンセンサス: モジュールは相互に通信して物体の識別に関するコンセンサスに達します。
    • モーター入力/出力: 学習したモデルに基づいて行動を調整します。
    • 予測: 学習したモデルを使用して将来の観察を予測します。

ドキュメント構造:

  • このドキュメントは、TBPの概要、アーキテクチャの詳細、目標、および指導原則を提供します。
  • 読者にAIに関する先入観を捨てることを求めています。

結論:

  • このプロジェクトは、様々なAIおよびロボティクスのタスクに適用できる知的なセンサーモーター学習プラットフォームを構築することを目指しています。
  • プラットフォームの開発と成長において、コミュニティの参加と協力を奨励しています。

・参考文献

https://www.numenta.com/wp-content/uploads/2024/06/Short_TBP_Overview.pdf

Hierarchical Temporal Memory（HTM）とは？

Numenta社はThousand Brains Projectの前に元となるHTM理論の研究とオープンソースプロジェクトの制作を行っていました。TBPに繋がる部分もあると思いますのでここで紹介します。

Hierarchical Temporal Memory（HTM）は、人間の新皮質の構造と機能をモデル化する機械学習技術です。HTMは、大脳新皮質の神経回路を模倣し、脳が情報を処理し学習する方法を再現します。以下にHTMの主な特徴をまとめます。

基本概念

HTMは、人間の新皮質（大脳皮質）の構造と機能を模倣することで、知識の獲得とパターン認識を行います。新皮質は知覚と認知の中心であり、HTMはその構造的・機能的特徴を取り入れています。

階層構造

HTMは階層構造を持ち、各階層が異なるレベルの抽象化を行います。下位レベルの詳細な情報は上位レベルで統合され、より高度な認識や予測が可能になります。この階層構造は、情報の効率的な処理と学習を可能にします​​。空間プーリング層と時間プーリング層があります。

疎分散

HTMは疎分散表現を使用します。疎分散表現とは、情報を少数の活性ニューロンで表現する方式であり、効率的な情報処理と高い耐障害性を実現します。これにより、大量の情報を効率的に処理し、必要な情報のみを活性化させることができます​​。

学習と予測

HTMは時間的パターンの学習と予測を得意とします。新皮質が時間と共に変化する情報を学習し、将来の出来事を予測するように、HTMも時間的なデータを基に学習を行い、次に何が起こるかを予測します。これにより、連続するデータの中からパターンを見つけ出し、複雑な情報の処理が可能になります。ヘブ則に基づきます。

HTMは、従来の機械学習技術とは異なり、脳の構造と機能を模倣することで、より柔軟で適応力のあるシステムを提供します。これにより、AIの新しい可能性を開き、多くの実世界の問題に対応できるようになります

詳しくは以下のサイトから。

https://www.numenta.com/assets/pdf/whitepapers/hierarchical-temporal-memory-cortical-learning-algorithm-0.2.1-jp.pdf

最後に

私は修士の時に知人にHTMを教えてもらい、従来のDNNとは異なるAIアルゴリズムに興味を持ちました。その後、現在に至るまでHTMを用いた研究を行っています。ですので、今回の発表は非常に興味があり、発表後すぐに早く試してみたいです！

コメント