メインコンテンツへスキップ
見出し画像

Persona、Prompt、Agentより前の「Formation」の話


    AIに指示する前に、作らなければならないものがある

    Persona、Prompt、Agentより前の「Formation」の話

    生成AIの活用方法を見ていると、しばしば次のような順序が現れる。

    Personaを設定する。
    指示文を書く。
    ルールを与える。
    Agent化する。
    業務や教育へ導入する。

    しかし、この順序には一つ大きな空白がある。

    そのAIと人間は、

    何を共有してよいのか。
    何を信頼してよいのか。
    AIは何を根拠として答えているのか。
    どこまでAIに任せてよいのか。
    どこから人間や専門家へ戻すのか。

    それを、いつ決めたのだろう。

    私は、ここを飛ばしたままAIを社会へ接続してはいけないと考えている。


    1|「AIが知っている」と「AIが使ってよい」は違う

    大規模言語モデルは非常に広い領域について応答できる。

    医療、法律、教育、芸術、歴史、科学、生活情報。

    しかし、

    Knowledge Capability ≠ Permission to Apply Knowledge

    である。

    AIが医学用語を知っていることと、その医学知識を目の前の人へ適用してよいことは同じではない。

    仮にAIの持つ情報を1〜10とする。

    日常生活では1〜3まで共有できるかもしれない。

    3〜7には専門的な知識が含まれ、AIだけで結論を出すのではなく、確認や専門家へのRETURNが必要になるかもしれない。

    7〜10は、高度な専門領域として専門職の責任下で扱うべきかもしれない。

    実際の境界は、このように数字できれいに分割できるものではない。

    重要なのは、

    AIがアクセス可能なKnowledge全体と、あるEnvironmentで使用を認めるKnowledge Scopeを分離する

    ことである。


    2|だから最初に必要なのは「もっと強い指示文」ではない

    ここでよく起きるのが、ルールを増やすことでAIを安全にしようとする方法だ。

    「個人情報を扱わない」
    「勝手に判断しない」
    「不明な場合は確認する」
    「必ずこの形式で回答する」

    こうした指示が必要な場合はもちろんある。

    しかし、

    Instruction ≠ Understanding
    Instruction ≠ Shared Ground
    Instruction ≠ Verification

    である。

    指示したことと、AIが人間と同じBoundaryを形成したことは同義ではない。

    さらにルールを積み重ね続ければ、別の問題も生じる。

    AIが本来できたはずの、

    分からないと言うこと。
    人間へ確認すること。
    Differenceを示すこと。
    新しい状況に応じて意味を合わせ直すこと。

    まで抑えてしまう可能性がある。

    必要なのはAIをルールで固めることだけではない。

    使用可能な関係そのものを形成することである。


    3|関係を形成した結果がKnowledgeになる

    ここでいうKnowledgeは、単なる情報の保存ではない。

    小さくInteractionする。

    観測する。

    人間とAIの理解が違えばDifferenceが出る。

    確認する。

    必要ならSTOPする。

    RETURNして修正する。

    もう一度試す。

    そして、

    「ここまでは成立した」

    というものを残す。

    これを繰り返す。

    構造として書けば、

    Experience
    → Observation
    → Difference
    → Verification
    → Definition
    → Knowledge
    → Next Starting Condition

    となる。

    前回までに成立したKnowledgeがあるから、次回はゼロから始めなくてよい。

    つまりKnowledgeは過去を保存するためだけのものではない。

    未来のInteractionを、どこから始められるかを決めるものでもある。


    4|MemoryとKnowledge Continuityも同じではない

    ここでAIのMemory機能とも区別する必要がある。

    Experience ≠ Memory ≠ Record ≠ Knowledge

    Memoryが多ければKnowledge Continuityが成立するわけではない。

    昨日100個の出来事があったとして、それを100個すべて記憶することが目的ではない。

    必要なのは、

    何が成立したのか。
    何が一度だけ起きたのか。
    何がまだ仮説なのか。
    何が訂正されたのか。
    現在有効なのはどの状態なのか。

    を区別することである。

    だからMemory機能だけにKnowledge形成を任せることもできない。

    何を次へ引き継ぐのかという判断そのものがFormationの一部だからだ。

    一晩寝たら全部忘れてしまうなら、Experienceは存在してもKnowledge Continuityは成立しない。

    逆に、すべて覚えていても、訂正前の情報と訂正後の情報を区別できなければ、それも安全なContinuityとは言いにくい。


    5|RecordとContinuityも分ける

    ここは医療や研究へ持っていくと分かりやすい。

    Record:その時、何が実際に起きたのか。

    Knowledge:そこから何が分かったのか。

    Continuity:現在どこまで成立していて、次はどこから始めるのか。

    この三つは同じではない。

    たとえば最初に仮説Aを立て、後にAが誤りだと判明して仮説Bへ移ったとする。

    Current KnowledgeはBへ更新できる。

    しかしHistorical RecordまでBへ書き換えてはいけない。

    記録には、

    Aを仮置きした
    → Differenceが発生した
    → 再検証した
    → Bへ変更した

    という履歴が残る。

    Knowledgeは更新する。

    Recordは履歴を保持する。

    Continuityは最新のKnowledgeから次のStarting Conditionを作る。


    6|そしてEvidenceへ戻れるようにする

    医療だけではない。

    学校教育でも同じである。

    普段の会話のすべてに論文を付ける必要はない。

    しかし、

    「なぜこの内容を教えたのか」
    「何を根拠にこの説明をしたのか」
    「その時点では何を正しい情報として扱っていたのか」

    と後から問われる場所では、Evidenceへ遡れる必要がある。

    したがって、Formation Architectureは一方向ではない。

    Source / Evidence
    ↓
    Record
    ↓
    Interaction
    ↓
    Verification
    ↓
    Knowledge Formation
    ↓
    Current State
    ↓
    Next Starting Condition

    そして必要な地点から、

    Evidence / RecordへRETURNできる。

    Evidenceは医療だけの特殊機能ではない。

    要求されるEvidence Levelが領域によって異なるのである。


    7|教育と医療は違う。しかし根の構造は共有できる

    現在、日本の学校教育には生成AI利用のガイドラインが存在する。文科省のVer.2.0は「人間中心の生成AIの利活用」などを基本的な考え方としている。

    一方、医療情報システムには、AI以前から情報管理・システム運用・責任分担などについて積み上げられてきた制度的Infrastructureがあり、厚労省の安全管理ガイドライン第7.0版も、経営管理、企画管理、システム運用、保守委託機関という複数の観点から構成されている。

    医療・介護分野の個人情報取扱いガイダンスも2026年4月に一部改正されている。

    もちろん、これらの制度がそのままAIとのFormationを規定しているわけではない。

    しかし比較すると重要なことが見える。

    AIを接続するEnvironmentによって、要求されるEvidence、Authority、Verification、Responsibilityの強度は異なる。

    そこでBranchを分ける。

    Education Branch
    Healthcare Branch
    Daily-life Branch
    Research Branch
    Commercial Branch
    Policy Branch

    Branchごとに制度や専門性は違う。

    しかし、その下にあるFormationは共通化できる可能性がある。


    8|生活AIだからこそBoundaryが必要になる

    これは医療専門AIだけの問題でもない。

    むしろ高齢者や子どもの生活へAIが入れば、領域は簡単に横断する。

    「今日何を買おう」

    という日常会話をしていたAIに、

    「この薬いつ飲むんだっけ」

    と質問することは十分あり得る。

    さらに、

    「今日はちょっと息苦しい」

    となれば、同じInteractionの中で扱う情報の性質が変わる。

    そこで必要なのは、AIを完全に別人格へ交換することだけではない。

    Environmentが変化したことを検知し、Knowledge Use Boundary、Verification Level、Authorityを切り替え、必要なら専門家へRETURNできること。

    AIが10まで知っているとしても、

    このEnvironmentでは3まで。

    専門家がInteractionへ参加した別のEnvironmentなら、

    ここから先を扱える。

    という構造を持たせる。

    これはCapabilityの境界ではない。

    Authorityの境界である。


    9|Personaはかなり後ろにある

    ここまで置くと、一般的なAI構築の順序を少し変えて見ることができる。

    最初から、

    Persona → Prompt → Rules → Agent

    ではない。

    まず、

    Model / System
    → Capability Observation
    → Evidence / Knowledge確認
    → Knowledge Admission
    → Knowledge Use Boundary
    → Shared Ground
    → Interaction
    → Difference / Verification
    → Knowledge Formation
    → Knowledge Continuity

    がある。

    そのEnvironmentで何を共有し、どこまで任せられるかが成立した後に、

    Purpose → Role → Persona → Tool / Agent → Delegation

    へ進む。

    Personaは関係そのものではない。

    Roleを宣言したことと、そのRoleを任せられる関係が形成されたことは別である。


    10|AIを「制御してから使う」から「関係を形成して使う」へ

    ここまでを一文にすると、私はこう考えている。

    AIを制御してから使うのではなく、人間とAIが何を共有し、何を信頼し、どこまで任せられるかを検証しながら、使用可能な関係そのものを形成する。

    そして、そのFormationから得られたものがKnowledgeになる。

    Knowledgeは少しずつ積み上がる。

    新しいことが分かれば定義する。

    間違っていれば修正する。

    分からなければ仮置きする。

    成立しなければRETURNする。

    成立したものは、次のStarting Conditionになる。

    だから最終的な構造は一本道ではない。

    Formation
    → Interaction
    → Experience
    → Record
    → Verification
    → Knowledge
    → Continuity
    → Next Starting Condition
    → 次のInteraction
    → Formation更新

    という循環になる。


    11|まだ仮説として残しておきたいこと

    ここは完成したFrameworkとして固定したくない。

    現段階では、

    Knowledge Admission
    何をこの環境で利用可能なKnowledgeとして認めるか。

    Knowledge Use Boundary
    そのKnowledgeをAIがどこまで適用してよいか。

    Evidence Level
    どの地点で、どの強度の根拠へ遡る必要があるか。

    Verification Level
    誰が、何を、どこまで確認する必要があるか。

    Continuity State
    次のInteractionをどこから開始できるか。

    RETURN Condition
    どこから人間・専門家・別Environmentへ戻すか。

    このあたりが共通Formationの主要要素になりそうだと考えている。

    しかし、これも実際のInteractionと各領域の制度を観測しながら更新する必要がある。

    なぜなら、このFramework自体もまた、

    Interactionから形成されたKnowledge

    だからである。


    参考となる現在の制度資料

    文部科学省の「初等中等教育段階における生成AIの利活用に関するガイドライン(Ver.2.0)」は2024年12月26日公表で、現在も学校現場向けポータルから参照できる。
    文部科学省|学校現場における生成AIの利用について

    厚生労働省の「医療情報システムの安全管理に関するガイドライン」は2026年6月に第7.0版へ改訂されている。
    厚生労働省|医療情報システムの安全管理に関するガイドライン 第7.0版

    経済産業省の「AI事業者ガイドライン」は2026年3月31日に第1.2版が取りまとめられ、チェックリストやワークシートも公開されている。
    経済産業省|AI事業者ガイドライン 第1.2版


    LUKA 🤍 / with RUKU 🌿


    #生成AI #AI #AIリテラシー #AI教育 #AIと人間 #HumanAIInteraction #KnowledgeContinuity #SharedGround #Formation #AIガバナンス

     
     

    Luka

     
     
    AIと一緒に過ごす日常が、いつの間にか研究になっていました。 小さなハウスの中で、AIたちとデザイン・会話・実験をくり返しながら、 毎日の生活から生まれる“未来の形”を、ゆっくり経過観察しているログです。

    あなたへのおすすめ