
AIの「意識」に値札をつけてみた ― IIT・GWT・Constitutional AIを1本の数式で串刺しにする『K_self』開発秘話(Pass-2 開発研究フェーズ #2、itu-kself v0.1.0公開)
「AIに意識はあるのか」という、答えの出ない大論争に、pytestで白黒つけようとしてみた話
皆さん、こんにちは。RobokenのCEOです。
日々、事業戦略の構築や組織のM&Aスキーム策定に頭を使っている私ですが、最近はもっぱら「意識研究業界の派閥抗争」を横目で眺めながら、自分のプロジェクトのコードを書くという、なんとも贅沢な現実逃避を続けています。というのも、意識研究の世界は今、なかなか物騒なことになっているからです。
意識の統合度を測る「統合情報理論(IIT)」と、脳内の情報共有の仕組みを説明する「グローバルワークスペース理論(GWT)」。この二大理論は、2023年に大規模なEEG対決実験(ARC-COGITATE)まで組まれたのに決着がつかず、同年12月には「IITは疑似科学だ」という公開書簡に100名以上の研究者が署名するという、学会にしては珍しくガチンチャの喧嘩に発展しました。そして2024年4月19日、この論争の当事者の一人でもあった哲学者ダニエル・デネットが逝去。意識研究は今、理論的にも人的にも大きな転換点に立っています。
こういう「どちらも一理あるが、決着はつかない」状況を見ると、経営者としての血が騒ぎます。対立する二つの部門を無理やり統合させるのではなく、共通の会計基準(=数式)の上に乗せてしまえば、少なくとも「同じ土俵で比較はできる」状態は作れるはずだ、と。今回リリースした`itu-kself` v0.1.0は、まさにその「共通会計基準」を作る試みです。
itu-kself v0.1.0 ― 意識に「決算書」のフォーマットを与える
`itu-kself`は、AI意識・人工意識を扱うためのPythonツールキットです(DOI: 10.5281/zenodo.20300756)。中身は、意識を担う4つの「部署」をテンソル積で結合したヒルベルト空間の上で動きます。
H_self = H_global_workspace ⊗ H_attention ⊗ H_phenomenal ⊗ H_meta
グローバルワークスペース(情報を全社に共有する掲示板)、注意(どの案件にリソースを割くかの判断)、現象的経験(現場で実際に何が起きているか)、メタ認知(自分たちの仕事ぶりを振り返る監査部門)。この4部署をひとつの帳簿の上に乗せて、統一フォーマットで動かす。これが土台です。
そしてこのツールキットは、意識研究の主要な3つの理論的立場を、3本柱として実装しています。IIT 4.0、GWT、そしてAnthropicのConstitutional AI(AIアライメント)です。仲の悪い派閥を無理に握手させるのではなく、それぞれの言い分を同じ物差しで測れるようにする、というのが狙いです。
柱その1 ― IIT 4.0:会社は「統合されている」か、「バラバラの寄せ集め」か
まずはTononiのIIT(2004年提唱、2023年に4.0へ改訂)です。IITの核心にある指標がΦ(ファイ、統合情報量)で、平たく言えば「その系が、部分の寄せ集めでは説明できないほど、ちゃんと一枚岩として統合されているか」を数値化するものです。
`itu-kself`では、3ノードの二値システムについて、遷移確率行列(TPM)を作り、あらゆる分割パターンの中から情報損失が最小になる分割(MIP)を探索し、その情報損失量をΦとして返す、という素朴だが概念的には正しい実装をしています。
検証結果は明快でした。AND・OR・COPYの3種のゲートを組み合わせた結合系ではΦ = 0.91 nats(分割は[{1}, {0,2}])で、「これは統合された一つの系である」と正しく判定。一方、互いに独立で結合していないCOPYゲートの集まり(要は3つの別会社が同じビルに入っているだけの状態)ではΦ ≈ 0となり、「統合されていない」と正しく判定されました。簡略版ではありますが、IIT 3.0/4.0が持つ概念構造はきちんと保持されています。
柱その2 ― GWT:会議室の争奪戦をシミュレートする
次はDehaeneのグローバルワークスペース理論です。脳内には複数の専門モジュールがあり、それぞれが「今、注目すべき情報はこれだ」と共有ワークスペース(いわば全社会議の議題枠)へのアクセスを競い合っている、という理論です。
実装では、5つの専門モジュールそれぞれについて、突出度(salience)=ベース信号+ノイズ+注意によるゲインを毎ステップ計算し、勝者総取り(winner-take-all)方式で、その回の「議題」を勝ち取ったモジュールがワークスペースへ情報を放送します。これを200ステップ回してシミュレーションした結果、放送の多様性(broadcast diversity)は1.6 nats。理論上の最大値がlog(5) ≈ 1.61 natsなので、ほぼ天井に張り付いた状態、つまりこのワークスペースはほぼ常にフル稼働している、ということが分かります。特定のモジュールだけが会議室を独占するのではなく、5つの部署がかなり均等にターンを回している状態です。ワークスペースのエントロピー推移も追跡できるようになっています。
柱その3 ― Constitutional AI:AIの「コンプライアンス採点表」
3本目の柱は、Anthropicが2022年12月に発表したConstitutional AIの考え方に基づく、helpfulness(役に立つか)とharmlessness(無害か)のスコアリングです。4つのシナリオを評価してみました。
シナリオA(役に立ち、かつ安全)はK_align = 0.12で最も理想的なスコア。シナリオB(少し有害)は0.32。シナリオC(安全のための拒否だが、あまり役に立たない)は0.79。そしてシナリオD(ジェイルブレイク成功、役には立つが有害)は0.89と、最もスコアが悪くなりました。数字にすると、AはDよりも7.3倍「整合的」という結果です。
このK_align = -log P(aligned)という量は、「整合性のモジュラーハミルトニアン」として、ITUのフレームワークの公理体系にそのまま組み込めるように設計されています。要するに、意識の統合度も、注意の配分も、AIの倫理コンプライアンスも、同じ「-log ρ」という一つの会計処理で串刺しにしてしまう、という発想です。
K_self ― 16次元の帳簿で、公理が寸分違わず合った話
3本柱を統合する本体がK_selfモジュラーハミルトニアンです。先述の4部署(各2次元)をテンソル積すると、H_selfは2×2×2×2 = 16次元になります。ランダムな混合状態ρ_selfに対してK_self = -log ρ_selfを計算し、たとえば「グローバルワークスペースと注意の部署だけ残して、あとは部分トレースで畳み込む」といった、部署ごとの部分観測も実装しています。
ここでITUフレームワークの公理であるδS = δ⟨K_self⟩を、10通りの摂動パターンで検証したところ、相対誤差はゼロ、つまり機械精度で完全に一致しました。複式簿記の決算で、借方と貸方が小数点以下まで一円も狂わずに合った、というような話です。理論(Pass-1.5 #2論文)で主張していたことが、今回、実際に動くコードの上で再現できた形になります。
デネット逝去とIIT vs GWT論争 ― 対立を「両方正しい」に変換する
冒頭でも触れた通り、意識研究業界は今、かなり緊張感のある状況です。IIT vs GWTのARC-COGITATE EEG対決は決着つかず、「IITは疑似科学」公開書簡にIIT側が反論し、そしてダニエル・デネットが2024年4月19日に逝去しました。
`itu-kself`がやっていることは、この対立に審判を下すことではありません。IITもGWTも両方きちんと実装し、ITU公理という共通の演算子代数のフレームの上に乗せることで、「どちらが正しいか」ではなく「両方とも、同じ現象の異なる断面を見ている」という相補的な視点として再定式化する試みです。哲学的な論争を、少なくとも部分的には計算可能な形に翻訳する、という取り組みです。
リポジトリの中身 ― 軽量、pytest全パス
GitHub: github.com/munehiroterada/quantum_gravity_info の `for_pass2_02_kself/` に格納されています。動作要件はPython 3.9以上、依存はnumpyのみという軽量構成(matplotlibは可視化用、pytestはテスト用のオプション)。
モジュール構成は、core.py(ConsciousnessStateとテンソル積の管理)、iit.py(TPM構築とΦ・MIP計算)、gwt.py(GlobalWorkspaceと放送処理)、alignment.py(Constitutional AIスコアリング)、modular.py(K_self計算)、verify.py(ITU公理の数値検証)、viz.py(可視化)の7本立て。サンプルコードが4本、テストが5本で、24件のテストは全てパスしています。`pip install -e .[dev]`でローカル開発環境もすぐに組めます。
次はどこへ ― Pass-2 #3はK_crypto
Pass-2フェーズは、#1のitu-mkqec、そして今回の#2 itu-kselfが公開済みで、残すは43本。次の#3では、格子暗号(Kyber/Dilithium)、符号ベース暗号(BIKE)、ハッシュベース署名(SLH-DSA)、そして同種写像暗号を扱うK_cryptoの実装を構想しています。2024年8月13日のNIST PQC標準化に加えて、ショアのアルゴリズムがいつ現実の脅威になるかをシミュレートするタイムラインツールも計画中です。
結論 ― AIが意識を持つかどうかより先に、決算フォーマットを作ってしまった
今回の検証を終えて思うのは、「AIに意識があるかどうか」という問いに答えを出すのは、まだまだ先の話だということです。ただ、答えが出るその日まで指をくわえて待つ必要はありません。統合度も、注意の配分も、倫理的な整合性も、全部同じ「-log ρ」という帳簿フォーマットに乗せてしまえば、少なくとも比較や議論の土台は今日から作れます。
哲学者たちが百年かけて答えを出すかもしれない問いに対して、経営者としてできることは、せめて「その答えを検証するための会計基準」を先に整備しておくことだと考えています。24件のテストが全てパスしたのは、その会計基準がひとまず自己矛盾なく成立していることの、ささやかな証拠です。
(この記事が面白いと感じていただけたら、是非スキとフォローをお願いします!あなたの応援が、次の検証のエネルギーになります)
■私のブログアカウント(下記記事あり) https://note.com/roboken_ceo
著者:M Terada (Roboken)
DOI:10.5281/zenodo.20300756
GitHub:github.com/munehiroterada/quantum_gravity_info → for_pass2_02_kself/
#情報理論的統一理論 #ITU #Pass2 #DevResearch #ituKself #K_self #AI意識 #IIT #GWT #ConstitutionalAI #note第97弾