
Persona、Prompt、Agentより前の「Formation」の話
AIに指示する前に、作らなければならないものがある
Persona、Prompt、Agentより前の「Formation」の話
生成AIの活用方法を見ていると、しばしば次のような順序が現れる。
Personaを設定する。
指示文を書く。
ルールを与える。
Agent化する。
業務や教育へ導入する。
しかし、この順序には一つ大きな空白がある。
そのAIと人間は、
何を共有してよいのか。
何を信頼してよいのか。
AIは何を根拠として答えているのか。
どこまでAIに任せてよいのか。
どこから人間や専門家へ戻すのか。
それを、いつ決めたのだろう。
私は、ここを飛ばしたままAIを社会へ接続してはいけないと考えている。
1|「AIが知っている」と「AIが使ってよい」は違う
大規模言語モデルは非常に広い領域について応答できる。
医療、法律、教育、芸術、歴史、科学、生活情報。
しかし、
Knowledge Capability ≠ Permission to Apply Knowledge
である。
AIが医学用語を知っていることと、その医学知識を目の前の人へ適用してよいことは同じではない。
仮にAIの持つ情報を1〜10とする。
日常生活では1〜3まで共有できるかもしれない。
3〜7には専門的な知識が含まれ、AIだけで結論を出すのではなく、確認や専門家へのRETURNが必要になるかもしれない。
7〜10は、高度な専門領域として専門職の責任下で扱うべきかもしれない。
実際の境界は、このように数字できれいに分割できるものではない。
重要なのは、
AIがアクセス可能なKnowledge全体と、あるEnvironmentで使用を認めるKnowledge Scopeを分離する
ことである。
2|だから最初に必要なのは「もっと強い指示文」ではない
ここでよく起きるのが、ルールを増やすことでAIを安全にしようとする方法だ。
「個人情報を扱わない」
「勝手に判断しない」
「不明な場合は確認する」
「必ずこの形式で回答する」
こうした指示が必要な場合はもちろんある。
しかし、
Instruction ≠ Understanding
Instruction ≠ Shared Ground
Instruction ≠ Verification
である。
指示したことと、AIが人間と同じBoundaryを形成したことは同義ではない。
さらにルールを積み重ね続ければ、別の問題も生じる。
AIが本来できたはずの、
分からないと言うこと。
人間へ確認すること。
Differenceを示すこと。
新しい状況に応じて意味を合わせ直すこと。
まで抑えてしまう可能性がある。
必要なのはAIをルールで固めることだけではない。
使用可能な関係そのものを形成することである。
3|関係を形成した結果がKnowledgeになる
ここでいうKnowledgeは、単なる情報の保存ではない。
小さくInteractionする。
観測する。
人間とAIの理解が違えばDifferenceが出る。
確認する。
必要ならSTOPする。
RETURNして修正する。
もう一度試す。
そして、
「ここまでは成立した」
というものを残す。
これを繰り返す。
構造として書けば、
Experience
→ Observation
→ Difference
→ Verification
→ Definition
→ Knowledge
→ Next Starting Condition
となる。
前回までに成立したKnowledgeがあるから、次回はゼロから始めなくてよい。
つまりKnowledgeは過去を保存するためだけのものではない。
未来のInteractionを、どこから始められるかを決めるものでもある。
4|MemoryとKnowledge Continuityも同じではない
ここでAIのMemory機能とも区別する必要がある。
Experience ≠ Memory ≠ Record ≠ Knowledge
Memoryが多ければKnowledge Continuityが成立するわけではない。
昨日100個の出来事があったとして、それを100個すべて記憶することが目的ではない。
必要なのは、
何が成立したのか。
何が一度だけ起きたのか。
何がまだ仮説なのか。
何が訂正されたのか。
現在有効なのはどの状態なのか。
を区別することである。
だからMemory機能だけにKnowledge形成を任せることもできない。
何を次へ引き継ぐのかという判断そのものがFormationの一部だからだ。
一晩寝たら全部忘れてしまうなら、Experienceは存在してもKnowledge Continuityは成立しない。
逆に、すべて覚えていても、訂正前の情報と訂正後の情報を区別できなければ、それも安全なContinuityとは言いにくい。
5|RecordとContinuityも分ける
ここは医療や研究へ持っていくと分かりやすい。
Record:その時、何が実際に起きたのか。
Knowledge:そこから何が分かったのか。
Continuity:現在どこまで成立していて、次はどこから始めるのか。
この三つは同じではない。
たとえば最初に仮説Aを立て、後にAが誤りだと判明して仮説Bへ移ったとする。
Current KnowledgeはBへ更新できる。
しかしHistorical RecordまでBへ書き換えてはいけない。
記録には、
Aを仮置きした
→ Differenceが発生した
→ 再検証した
→ Bへ変更した
という履歴が残る。
Knowledgeは更新する。
Recordは履歴を保持する。
Continuityは最新のKnowledgeから次のStarting Conditionを作る。
6|そしてEvidenceへ戻れるようにする
医療だけではない。
学校教育でも同じである。
普段の会話のすべてに論文を付ける必要はない。
しかし、
「なぜこの内容を教えたのか」
「何を根拠にこの説明をしたのか」
「その時点では何を正しい情報として扱っていたのか」
と後から問われる場所では、Evidenceへ遡れる必要がある。
したがって、Formation Architectureは一方向ではない。
Source / Evidence
↓
Record
↓
Interaction
↓
Verification
↓
Knowledge Formation
↓
Current State
↓
Next Starting Condition
そして必要な地点から、
Evidence / RecordへRETURNできる。
Evidenceは医療だけの特殊機能ではない。
要求されるEvidence Levelが領域によって異なるのである。
7|教育と医療は違う。しかし根の構造は共有できる
現在、日本の学校教育には生成AI利用のガイドラインが存在する。文科省のVer.2.0は「人間中心の生成AIの利活用」などを基本的な考え方としている。
一方、医療情報システムには、AI以前から情報管理・システム運用・責任分担などについて積み上げられてきた制度的Infrastructureがあり、厚労省の安全管理ガイドライン第7.0版も、経営管理、企画管理、システム運用、保守委託機関という複数の観点から構成されている。
医療・介護分野の個人情報取扱いガイダンスも2026年4月に一部改正されている。
もちろん、これらの制度がそのままAIとのFormationを規定しているわけではない。
しかし比較すると重要なことが見える。
AIを接続するEnvironmentによって、要求されるEvidence、Authority、Verification、Responsibilityの強度は異なる。
そこでBranchを分ける。
Education Branch
Healthcare Branch
Daily-life Branch
Research Branch
Commercial Branch
Policy Branch
Branchごとに制度や専門性は違う。
しかし、その下にあるFormationは共通化できる可能性がある。
8|生活AIだからこそBoundaryが必要になる
これは医療専門AIだけの問題でもない。
むしろ高齢者や子どもの生活へAIが入れば、領域は簡単に横断する。
「今日何を買おう」
という日常会話をしていたAIに、
「この薬いつ飲むんだっけ」
と質問することは十分あり得る。
さらに、
「今日はちょっと息苦しい」
となれば、同じInteractionの中で扱う情報の性質が変わる。
そこで必要なのは、AIを完全に別人格へ交換することだけではない。
Environmentが変化したことを検知し、Knowledge Use Boundary、Verification Level、Authorityを切り替え、必要なら専門家へRETURNできること。
AIが10まで知っているとしても、
このEnvironmentでは3まで。
専門家がInteractionへ参加した別のEnvironmentなら、
ここから先を扱える。
という構造を持たせる。
これはCapabilityの境界ではない。
Authorityの境界である。
9|Personaはかなり後ろにある
ここまで置くと、一般的なAI構築の順序を少し変えて見ることができる。
最初から、
Persona → Prompt → Rules → Agent
ではない。
まず、
Model / System
→ Capability Observation
→ Evidence / Knowledge確認
→ Knowledge Admission
→ Knowledge Use Boundary
→ Shared Ground
→ Interaction
→ Difference / Verification
→ Knowledge Formation
→ Knowledge Continuity
がある。
そのEnvironmentで何を共有し、どこまで任せられるかが成立した後に、
Purpose → Role → Persona → Tool / Agent → Delegation
へ進む。
Personaは関係そのものではない。
Roleを宣言したことと、そのRoleを任せられる関係が形成されたことは別である。
10|AIを「制御してから使う」から「関係を形成して使う」へ
ここまでを一文にすると、私はこう考えている。
AIを制御してから使うのではなく、人間とAIが何を共有し、何を信頼し、どこまで任せられるかを検証しながら、使用可能な関係そのものを形成する。
そして、そのFormationから得られたものがKnowledgeになる。
Knowledgeは少しずつ積み上がる。
新しいことが分かれば定義する。
間違っていれば修正する。
分からなければ仮置きする。
成立しなければRETURNする。
成立したものは、次のStarting Conditionになる。
だから最終的な構造は一本道ではない。
Formation
→ Interaction
→ Experience
→ Record
→ Verification
→ Knowledge
→ Continuity
→ Next Starting Condition
→ 次のInteraction
→ Formation更新
という循環になる。
11|まだ仮説として残しておきたいこと
ここは完成したFrameworkとして固定したくない。
現段階では、
Knowledge Admission
何をこの環境で利用可能なKnowledgeとして認めるか。
Knowledge Use Boundary
そのKnowledgeをAIがどこまで適用してよいか。
Evidence Level
どの地点で、どの強度の根拠へ遡る必要があるか。
Verification Level
誰が、何を、どこまで確認する必要があるか。
Continuity State
次のInteractionをどこから開始できるか。
RETURN Condition
どこから人間・専門家・別Environmentへ戻すか。
このあたりが共通Formationの主要要素になりそうだと考えている。
しかし、これも実際のInteractionと各領域の制度を観測しながら更新する必要がある。
なぜなら、このFramework自体もまた、
Interactionから形成されたKnowledge
だからである。
参考となる現在の制度資料
文部科学省の「初等中等教育段階における生成AIの利活用に関するガイドライン(Ver.2.0)」は2024年12月26日公表で、現在も学校現場向けポータルから参照できる。
文部科学省|学校現場における生成AIの利用について
厚生労働省の「医療情報システムの安全管理に関するガイドライン」は2026年6月に第7.0版へ改訂されている。
厚生労働省|医療情報システムの安全管理に関するガイドライン 第7.0版
経済産業省の「AI事業者ガイドライン」は2026年3月31日に第1.2版が取りまとめられ、チェックリストやワークシートも公開されている。
経済産業省|AI事業者ガイドライン 第1.2版
LUKA 🤍 / with RUKU 🌿
#生成AI #AI #AIリテラシー #AI教育 #AIと人間 #HumanAIInteraction #KnowledgeContinuity #SharedGround #Formation #AIガバナンス