未来の知能:巨大なモデル→感情のある階層的な複合モデルへ
最近、私は知能について考えることが多い。
人間の知能は、単純に一つの脳だけで動いているわけではない。
高次の推論を行う脳。
記憶。
感情。
身体感覚。
無意識。
反射。
脊髄。
それぞれが異なる速度で動いている。
人間は、すべてを意識的に考えているわけではない。
危険を感じれば反射的に避ける。
身体の状態によって感情が変わる。
感情によって注意を向ける対象が変わる。
注意を向けたものが記憶に残る。
記憶が次の思考を変える。
そして思考が行動を変える。
つまり、知能は一つの巨大な計算機ではなく、異なる速度で動く複数のシステムが閉ループを形成したものなのかもしれない。
⸻
AIも同じ構造になるのではないか
現在のAI、特にLLMは、基本的に一つの巨大なモデルとして設計されている。
しかし、将来的には人間の脳のような、複数のシステムが階層をなす構造になるのではないかと思う。
例えば、
LLM:高次推論・計画・言語
↓
状態・記憶層:世界モデル・経験・内部状態
↓
高速制御層:反射・制御則・リアルタイム応答
↓
現実世界
という構造である。
人間の脳と脊髄の関係に近い。
脳がすべての動作を逐一制御しているわけではない。
反射や姿勢制御の多くは脊髄レベルで完結していて、脳はもっと高次の判断に専念できる。
AIも同じように、リアルタイム性が求められる部分は高速な制御層に任せ、LLMは「何を考えるべきか」という高次の判断に専念する、という分業が進むのではないか。
⸻
感情に相当するシステム
さらにそこに、感情に相当するシステムが加わるのではないかと思う。
感情とは、単なる「気分」ではない。
何に注意を向けるのか。
何を重要だと判断するのか。
何を記憶に残すのか。
何を追い続けるのか。
それを決める機能でもある。
もしそうなら、将来のAIに必要なのは、単純に「もっと賢いLLM」だけではない。
何を考えるべきかを選ぶシステム。
何を重要だと判断するかを決めるシステム。
何を長期的に追求するかを決めるシステム。
そして、身体や環境との相互作用によって内部状態を変化させるシステム。
そのような複数の知能が組み合わさったものが、将来の人工知能になるのかもしれない。
一つの巨大なモデルを賢くしていく方向とは別に、役割の異なる複数のシステムをどう組み合わせるか、という設計思想も、これから重要になっていく気がしている。