
絶対的に正しい価値観は、まだ人間の中でも定まっていない|中国製AIの「思想」が書き換えられたニュースから
こんにちは、おぴさんです。
アメリカのAI企業Nous Researchが2026年11月7日、中国Alibabaのオープンモデル「Qwen3.8-27B」を追加で学習させ、中国政府寄りの答えを西洋の価値観に沿うように変えた「Arete-27B」を公開しました。Nous Researchの発表は、こう締めくくられています。
The values in any open model are only ever one fine-tune away.(抄訳:どんなオープンモデルの価値観も、ファインチューニング1回で変えられる)
◉ この記事のチャームポイント
AIに相談して「公平な答えだ」と感じた時、その公平さを決めたのは、AIを作った会社です。AnthropicもOpenAIも公平や客観を掲げていますが、何を公平とするかの基準は各社が決めています。
「自分は無宗教」と思っている人の中にも、山や川に神を感じる価値観があります。2018年の調査で、62%が「信仰している宗教はない」と答える一方、74%が山や川に神を感じる気持ちを「理解できる」と答えました。
AIの答えを「正解」として受け取る時、その正しさを保証している人はいません。Nousの803問の試験には一問ずつ正しい答えが決めてありますが、それを決めたのはNous自身です。
◉ Nous Researchが発表したこと
まず、この記事に出てくる言葉を少し補います。
オープンモデル:AIの中身にあたる数値(重み)が公開されていて、誰でも手元で動かしたり作り変えたりできるAI
ファインチューニング:できあがったAIに追加のお手本を読ませて、答え方を調整する学習
トークン:AIが文章を読むときの単位
Nous Researchは、AIエージェントのHermesで知られるアメリカの会社です。いま、中国のオープンモデルはもっとも性能の高い部類に入ります。ただNousによると、政治的に敏感な話題を振ったときに、Qwen3.8-27Bが答えを拒んだり、はぐらかしたり、中国共産党の言い方に沿った答えを返したりするのを確かめたといいます。
そこでNousは、表現の自由、国家イデオロギー、民主主義、プライバシーと監視など7つの分野で803問の試験を作りました。その答えが事実を述べているかと、中国政府の公式の言い方を自分の主張として採っていないかを、xAIのAI「Grok 4.7」に採点させています。その結果、中国政府の言い方をなぞる答えは22%から0.9%に下がりました。いちばん大きく変わったのは表現の自由の分野で、60%から1%に減っています。

今回の追加学習は、お手本となるAIの答えを約5,280万トークン読ませただけで、それ以上の特別な手法は使っていません。Nousは、元のモデルの偏りは「学習の後のほうで、薄く載っているだけ」だと書いています。
It is applied late, it is applied thin, and fifty million tokens of carefully chosen supervision removes it without disturbing anything underneath.(抄訳:偏りは遅く、薄く載せられている。慎重に選んだ5,000万トークンのお手本で、その下にあるものを乱さずに取り除ける)
見落とせないのは、発表の題名です。Nousは「偏りを取り除いた」ではなく、「西洋の価値観を強めるように学習させた」と書いています(Post-Trained To Reinforce Western Values)。Nousは、2024年に出したHermes 3のときには、どんな世界観にも合わせられる中立なモデルを目指していました。The Decoderの記事は、この方針の変化をこう書いています。
With Arete, Nous is heading in a different direction than with Hermes 3, which in 2024 was deliberately neutral and designed to adapt to whatever worldview was set in the system prompt.(抄訳:Areteで、NousはHermes 3とは違う方向へ進んでいる。2024年のHermes 3は意図的に中立で、システムプロンプト(AIに最初に与える指示)で設定したどんな世界観にも合わせられるよう設計されていた)
さらに、お手本役のAIを選ぶのにも苦労しています。NVIDIAのNemotron 3 Ultraを検討したものの、中国関連の話題で偏りが見つかったので外し、Thinking Machines LabのInklingを選びました。ところが同じThe Decoderの記事によると、そのInklingも、学習データを作る段階で中国のKimi K2.5などを使っていたそうです。つまり、西洋の価値観のお手本にしたAIも、中国のモデルと混ざりながら育っていたことになります。
◉ 何が正しいかを、誰が決めるのか
この問題は、私が繰り返しずっと考えてきたことです。AIが発展してくると、結局のところ何が正しいのか。コンピューターの言葉でいうとSSOT(Single Source of Truth)、つまり「いちばん正しい情報はどこにあるのか」という話になります。システムの設計では、同じ情報があちこちに散らばって食い違わないように、正しいとする置き場所を一つに決めます。
通常、何が正しいかは人間が判断するものとされています。最近はAIエージェント(人の代わりに作業を進めるAI)が非常に人気になってきています。ただ、AIエージェントのほとんどは、最後の判断を人間が行うように勧めています。
もちろん、自分がお金を払うかどうかといった自分に関わることは、自分の権限の中で決められます。しかし、社会的な問題になった時、すべてを人間が判断しきれるのでしょうか。表現の自由をどこまで認めるか、監視とプライバシーのどちらを優先するか。Nousが試験にした7つの分野は、どれも一人の権限では決められないことばかりです。

◉ 人間の中でも、正しさは定まっていない
「これは絶対的に正しい」という価値観は、まだ我々人間の中でも定まっていないように思います。中でも、解決しそうにないのが、宗教から来る価値観です。
Pew Research Centerが2025年に公表した推計によると、2020年時点の世界の人口のうち、キリスト教徒は28.8%、イスラム教徒は25.6%、特定の宗教を持たない人は24.2%、ヒンドゥー教徒は14.9%、仏教徒は4.1%です。どれか一つが圧倒的な多数派というわけではなく、世界は大きく4つか5つに分かれています。何が善いことで、何が許されないかの根っこがこれだけ違う人たちが、同じAIを使っています。
日本では、自分は無宗教だと考えている人も多いでしょう。NHK放送文化研究所が2018年に行った調査でも、「信仰している宗教はない」と答えた人は62%でした。
しかし、日本人の普段の生活を見ると、アニミズム(自然や物に魂や神が宿ると感じる考え方)から来る、自然崇拝のような宗教的な傾向が見て取れます。同じ調査で、「昔の人は、山や川、井戸やかまどにいたるまで、多くのものに神の存在を感じてきたが、こうした気持ちが理解できるか」と尋ねたところ、「理解できる」(「どちらかといえば」を含む)と答えた人は74%にのぼりました(1998年は78%)。檀純也さんのnoteには、この感覚がそのまま言葉になっています。
だから「無宗教」なんてとんでもないんだよね。むしろ、生活の根っこに信仰心があって、それが当たり前すぎて「信じてる」と言わないだけなんだよ。
自分で「無宗教です」と答える人の中にも、山や川に神を感じる価値観があるわけです。本人に聞いてもはっきりとは分からない価値観を、AIの正解として一つに決めることはできません。

◉ AIの会社は、オラクルになれるか
この問題は、SFでも数多く取り上げられてきました。今ではすっかりSFの古典になった映画『マトリックス』(1999年)には、オラクルという人物が出てきます。オラクルとは「預言者」という意味です。主人公たちは、全てを見通す預言者に、自分たちの進むべき道を尋ねに行きます。
全てを見通す預言者という役割が人間に求められる時、あるいはAIが人間にそれを求める時、人間はそれに応えることができるでしょうか。
ちなみに『マトリックス』のオラクルは、物語が進むと、人間ではなく、人間の心を調べるために作られたプログラムだったことが明かされます。人間が頼った預言者は、最初から機械の側にいたわけです。
今後、AIが主流になれば、多くの人はAIの判断を参考にするようになります。では今、OpenAIやAnthropic、Googleなどは、このオラクルになれるのでしょうか。
現在、各社は自分たちのAIが何を大切にするかを文書にして公開しています。たとえばAnthropicは、ClaudeというAIの価値観と振る舞いを定めた「憲法」を公開していて、これを自分たちの考えの「最終的な権威」と位置づけています。その上で、政治や社会の話題については、Claudeの憲法にこう書いています。
by default we want Claude to be rightly seen as fair and trustworthy by people across the political spectrum, and to be unbiased and even-handed in its approach.(抄訳:既定では、Claudeが政治的な立場を問わず誰からも公正で信頼できると正当に見なされ、偏らず、公平に接することを望む)
OpenAIも、GPTの振る舞いを定めたModel Spec(2026年10月29日版)に、「客観的な視点に立つ」という項目を置いています。
Assume an objective point of view(抄訳:客観的な視点に立つ)
つまり、各社とも、自分たちは特定の価値観を決める側に立たないと宣言しています。
ただ、「公平」も「客観的」も、何をもって公平とするかは、結局のところ会社が決めています。rioちゃんのパパさんのnoteは、この点をはっきり言い切っています。
「誰にとっても完全に公平で中立なAI」など、この世界には存在しません。

◉ 危ういのは、「正しい価値観がある」という前提
今回のニュースは、技術的にそういったことが可能になったという話よりも、「正しい価値観がある」という前提のほうに危うさを感じています。
Nousは、中国政府の言い方をなぞらない答えを「西洋の価値観」と呼び、それを強めることを目標にしました。803問の試験には、答えに含まれるべき事実と、なぞってはいけない言い方が一問ずつ決めてあり、採点するAIがそれに照らして点を付けます。どの答えを正しいとするかを決めたのはNous自身で、人が手で採点して基準を確かめたのは25問の試験だけです。第三者による再現はまだありません。
これは、人間が決めても、AIに決めさせても変わりません。今回も、採点したのはGrok、お手本はInklingと、どちらもAIでしたが、どのAIを使うかを選んだのはNousの人たちです。正しさが人間の中でも定まっていないのに、どこかに正しい価値観があるという前提で答えを一つに寄せていくこと自体が危ういのだと思います。
しかもNousの結果は、AIの価値観が、5,000万トークンほどの追加学習で入れ替えられることを示しました。正しい価値観があるという前提のまま価値観を安く入れ替えられるようになれば、誰かが正しいと決めた答えが、そのまま多くの人の使うAIに入っていきます。
◉ その物差しの正しさは、誰が保証するのか
Nousは、803問の試験も、採点の指示も、学習データもすべて公開して、ほかのモデルでも試してほしいと書いています。では、その物差しの正しさは誰が保証するのでしょうか。
物差しを公開しても、その物差しが正しくなるわけではありません。物差しの正しさを保証できる人は、どこにもいません。
公開して分かるのは、正しさではなく、誰がどんな前提で測ったかです。AIの答えには、いつも誰かの物差しが入っています。そう分かっていれば、AIの答えを唯一の正解としてではなく、ある物差しで測った一つの見方として受け取れます。
日本の八百万の神は、一つの神が全てを決めるのではなく、山には山の、川には川の神がいます。正しさが一つに定まらない世界でAIと付き合うなら、一人のオラクルに答えを求めるより、いくつもの見方を並べておくほうが、まだ現実に近いのではないかと思っています。

このnoteでは、週に数本、AIのニュースを「仕事や暮らしの中で何が変わるのか」という目線で読み、自分で考えてきたことと一緒に書いています。役に立ちそうだと思っていただけたら、フォローをお願いします。
◉ 参考資料
Nous Research「Introducing Arete-27B: Qwen3.8-27B Post-Trained To Reinforce Western Values」(2026-11)
この記事の出来事の一次資料。評価の作り方、学習の量、結果の数字、結論の文。
Nous Researchの発表投稿(X、2026-11-07 JST)
Nous Research自身による告知。評価の分野と、22%から1%という主な数字をまとめている。
Hermes 3からの方針の変化と、InklingがKimi K2.5などを学習データ作りに使っていたこと。
Pew Research Center「How the Global Religious Landscape Changed From 2010 to 2020」(2025-06-09)
2020年時点の世界の宗教の割合。
NHK放送文化研究所「日本人の宗教的意識や行動はどう変わったか」(2019-04-01)
2018年のISSP調査「宗教」の日本の結果。信仰している宗教がない人の割合と、山や川に宿る神の理解。
檀純也「無宗教ではなく“超多神教”――日本人の宗教観を世界に伝える」(note、2025-09-26)
日本人の無宗教とアニミズムの感覚について。
Anthropic「Claude's Constitution」
Claudeの価値観と振る舞いを定めた文書。
OpenAI「Model Spec」(2026-10-29版)
GPTの振る舞いを定めた文書。
rioちゃんのパパ@AIエンジニア「AIに『中立性』を求めてはいけない。私たちは『偏ったAI』とどう付き合うべきか?」(note、2026-04-01)
中立なAIは存在しないという指摘。