【PRI】Power in the Age of AI — Who Is Behind “AI Says So”?
English text appears at the bottom of this post.
【PRI】AI時代の権力――「AIがそう言っている」の背後に誰がいるのか
在米ジャーナリスト 髙濱 賛 (Tato Takahama)
Pacific Research Institute
2026年10月5日
「AIに道徳を教えなければならない」。
そう言われれば、多くの人は、それは当然のことだと思うだろう。人間よりはるかに速く情報を処理し、やがて人間にはできないような判断まで担うかもしれないAIに、何をしてよく、何をしてはいけないのかを教える必要がある。だが、私が9月29日付のニューヨーク・タイムズ紙でエリザベス・ディアス記者によるAnthropicの「Claude」をめぐる記事を読んでいて考えさせられたのは、その先にある問題だった。
AIにどんな道徳を教えるべきなのかを考える前に、そもそも誰が教えるのか。そして、その教える側が「これは人間にとってよいことだ」と判断する基準は、いったい誰によって決められているのか。
Anthropicは、Claudeにどのような価値観や行動原則を持たせるべきかを考えるため、15を超える宗教・文化的グループの学者、聖職者、哲学者、倫理学者らと対話してきたという。同社はさらに「Claude’s Constitution（クロードの憲法）」と呼ぶ文書を作り、Claudeの価値観や行動を方向づける原則を明文化している。Anthropic自身も、この憲法をClaudeの訓練に用い、その内容がモデルの振る舞いを直接形づくると説明している。
これは、AIの安全性を考えるうえで重要な試みであることは間違いない。AIを単なる計算機として扱うのではなく、人間が長い歴史の中で考えてきた倫理や宗教、哲学、文化の問題まで視野に入れて、その振る舞いを考えようとしているからだ。
しかし、そこで別の問題が生まれる。
世界のさまざまな伝統から意見を聞くことと、人類全体を代表することは同じではないからである。
仮にキリスト教、ユダヤ教、イスラム教、仏教、ヒンズー教、シーク教、儒教、先住民の思想など、さまざまな伝統を一つのテーブルに集めることができたとしても、「人間とは何か」「よい人生とは何か」「個人と共同体のどちらを優先するのか」「自由と責任をどう釣り合わせるのか」「自然には人間とは別の道徳的価値があるのか」といった根本的な問いについて、全員が同じ答えにたどり着くとは限らない。
仏教には、西洋の道徳哲学の多くが前提としてきた恒常的な個人としての「自己」とは異なる自己観がある。儒教は人間同士の関係や役割、そこから生じる責任を重く見る。イスラムの伝統には責任、正義、共同体について独自の考え方があり、神道には人間と自然、土地、共同体の関係をめぐる独特の感覚がある。
これは、世界共通の「道徳」というものがまず存在していて、それぞれの文化がそこに少しずつ色をつけている、という単純な話ではない。最初から異なる価値観があり、その違いが、ときにはまったく違う答えを導く可能性がある。
そうなると、問題は「できるだけ多くの声を聞いたかどうか」だけでは終わらない。聞いた声の間に意見の食い違いが生じたとき、どの原則を採用し、どれを採用せず、互いに矛盾する価値をどのような順序で調整するのかを、最後には誰かが決めなければならないからだ。
そして、その最終的な設計権を持っているのはAnthropicである。
これは同社を批判しているのではない。むしろ、AIについて考えるときに見落としてはいけない権力の所在を確認しているのである。
Anthropicは神学者や哲学者を招くことができるし、世界各地の宗教や文化の代表者から意見を聞くこともできる。できるだけ多様な考えを取り入れようと努力することもできる。しかし、最終的にClaudeの憲法として文章をまとめ、モデルの訓練に組み込み、どの価値を優先するかを決めるのは人間である。
だから、「AIにはどんな道徳が必要なのか」という問いだけでは足りない。「その道徳を定義し、AIの行動に組み込む権限を誰が持っているのか」と問わなければならないのである。
AIが私たちの質問に答えるとき、単に持っている知識を取り出しているわけではない。どの情報を重要なものとして扱うのか、どの情報源を信頼できるものとみなすのか、どのような表現を避けるのか、どの質問には答え、どの質問には答えないのかという判断が、回答の中にすでに組み込まれている。
「はい」と答えるか、「いいえ」と答えるか、あるいは「その質問には答えられません」と返すかという選択にも、設計した側の価値判断が反映される。
私は別のAIシステム、ChatGPTにも同じ質問を投げることができる。「あなたの道徳的な枠組みはどこから来たのか」と。
答えを要約すれば、そこにも人間の選択が積み重なっている。学習に使われるデータ、人間による評価、システムへの指示、安全上の規則、モデルの仕様、どのような回答を望ましいものとして強化し、どのような回答を制限するかという方針など、さまざまな人間の判断が最終的な振る舞いを形づくっている。
AIが自分でその原則を発明したわけではない。まして、自分で統治原則を書き換える権限を持っているわけでもない。
ここを見落とすと、「AIがそう言っている」という言葉が、あたかも機械自身が独立した判断を下しているかのように聞こえてしまう。
実際には、その回答の背後には、データを選び、ルールを決め、モデルを訓練し、回答を評価し、危険とみなす範囲を定めた人間がいる。
だからこそ、AIの「道徳」を考えることは、AIそのものだけを考えることではない。AIを設計し、その振る舞いを決める側にどのような権限が集まっているのかを考えることでもある。
ここで、もう一つの出来事を重ねてみたい。
もしアメリカ大統領が、自分の判断でAIに教える道徳原則を決める権限を持っていたらどうだろう。多くのアメリカ人は、おそらく一人の政治家にそのような権限が集中することに警戒するだろう。
では、その権限が大統領ではなく、巨大な民間テクノロジー企業に集中した場合はどうなのか。
エンジニアや研究者、倫理学者が決めているから政治家より安全だ、と簡単に結論づけることはできない。重要なのは、誰が善悪を決めるかという問題と同時に、その決定に対して誰が説明責任を負い、誰が異議を唱え、誰が変更を求めることができるのかという問題だからである。
そして9月29日、この問題は民間AI企業の研究室から、アメリカ政府と市民との関係にまで広がった。
ドナルド・トランプ大統領は同日、連邦政府の情報やサービスへの入り口を一本化する新しい政府ポータル、America.govを立ち上げた。ホワイトハウスによれば、America.govは単なる政府サイトのリンク集ではなく、国民が自然な言葉で質問し、情報を得て、将来的にはパスポートの更新やメディケアへの加入など、さまざまな政府サービスを一つの入り口から利用できるようにすることを目指している。ホワイトハウスはまた、このシステムに「Super Intelligence（SI）」を利用すると説明している。
ここまで来ると、AIの道徳をめぐる問題は少し違った姿を見せ始める。
民間企業が自社のAIにどのような価値観を持たせるのかという問題だけなら、利用者はそのサービスを使うかどうかを選択できる。しかし、政府がAIを国民と行政サービスをつなぐ窓口に置くようになれば、そこには市民と国家の関係そのものが関わってくる。
しかも、America.govの立ち上げ初日、AP通信が実際にシステムを試したところ、政府の情報源を基にしたAIの回答が、トランプ氏自身が繰り返し述べてきた主張と食い違う場面があった。
2020年大統領選について質問すると、選挙結果を覆すほどの大規模な不正があったという主張を支持せず、トランプ氏が3選を目指すことが可能かという問いには、合衆国憲法修正第22条が大統領への選出を2回までに制限していることを示した。気候変動についても、人間の活動が近年の温暖化の主要な原因の一つだとする連邦政府の科学的見解を反映した。
ところが、その後、回答の仕方が変わった。APによれば、America.govは一部の政治的な質問に対して、政治的な問題には答えられないという趣旨の回答をするようになった。
ここで、「AIがトランプ大統領に勝った」などと考えるのは、本質を外している。
むしろ注目すべきなのは、政府が提供する情報の入り口でAIが回答する場合、何を「権威ある事実」として扱うのかを誰が決め、その判断を誰が変更できるのかという点である。
America.govは政府の情報を基に答える。では、どの政府情報を優先するのか。政治的な質問にはどこまで答えるのか。ある質問を事実に関する質問として扱い、別の質問を政治的な質問として扱う境界線はどこに引くのか。そして、その線を引いたのは誰なのか。
こう考えると、ClaudeとAmerica.govは一見まったく違うものに見えて、実は同じ問題を抱えていることが分かる。
一方は民間企業が開発する最先端AIであり、もう一方は政府と市民をつなぐデジタルの窓口である。目的も組織も違う。しかし、どちらも「機械が何を言うのか」を決めるために、人間が一定のルールを設定しなければならない。
そして、そのルールが目に見えなくなったとき、利用者は「AIがそう言っている」と受け取るようになる。
これは、AIが神託を発するという意味ではない。むしろ逆である。AIの答えがあまりに流暢で、あまりに即座に返ってくるために、その背後にある人間の選択が見えにくくなるということである。
民主主義は昔から、情報と権力の関係に悩まされてきた。政府が情報を独占すれば、誰がその情報を監視するのかという問題が生じる。巨大メディアが世論形成に大きな影響を持てば、誰がその報道を検証するのかという問題が生じる。AIの時代には、そこにもう一つの層が加わることになる。
情報を探す人が、検索結果を一つずつ読むのではなく、AIに「結局どういうことなのか」と尋ねるようになれば、AIがどの情報を拾い、どれを捨て、どのような順序で説明するかという判断そのものが、情報環境を左右するからだ。
「AIがそう言っている」という一言が、「政府がそう言っている」「新聞がそう報じている」と同じ、あるいはそれ以上の権威を持つようになれば、私たちはその答えの中身だけでなく、その答えを生み出した仕組みについても考えなければならない。
もちろん、だからといってAIにルールを持たせるべきではない、と言っているのではない。むしろ、何が人間に害を及ぼすのか、どこに安全上の境界線を引くのかという判断基準を持たないAIの方が危険である。問題は、ルールが存在することではなく、そのルールを誰が作り、誰が検証し、誰が変更し、誤りが起きたときに誰が責任を負うのかということだ。
これはAIだけに特有の問題ではない。
社会が大きな権限を一つの機関に与えたとき、民主主義はいつも「その権限を誰が監視するのか」という問いを突きつけてきた。AIの場合には、さらに厄介なことに、その権限を行使している主体が人間には見えにくい。
画面の向こうから返事をするのは、政治家でも官僚でも企業幹部でもなく、「AI」である。
しかし、AIそのものが政治的責任を負うわけではない。どのデータを使うか、どんな規則を設けるか、何を危険と定義するか、どこまで回答し、どこから拒否するかを決めた人間と組織が存在する。
だから私は、AnthropicがClaudeのために「憲法」を作ろうとしていること自体は重要な試みだと思う。同社自身も、AIの開発を技術だけの問題として扱うのではなく、宗教、哲学、文化など幅広い考え方に耳を傾ける必要があると認めている。さらにAnthropicは9月29日、AIについて何を望むのかを利用者から聞く新たな調査も始め、「こうした問題をAI企業だけに任せるべきではない」と明記している。
だからこそ、次に問うべきなのは、その対話の範囲をどこまで広げるかという問題だろう。
誰が話し合う人々を選ぶのか。どの宗教や文化や思想を議論に加えるのか。意見が食い違ったときには誰が判断するのか。最終的な文章を誰が承認し、その文章をモデルに組み込むのか。そして、その後に社会の価値観が変わったとき、誰がそれを書き換えるのか。
こうした問いは、AIが政府の仕事を担うようになれば、さらに切実になる。
America.govが示しているのは、単に新しい政府サイトができたということではない。アメリカ人が政府に何を尋ね、政府からどのような情報を受け取り、どのサービスを利用するのか、その最初の接点をAIが担う時代が始まったということである。
そう考えると、「AIがいつか人間より賢くなるのか」という問いだけを追いかけることには、少し違和感がある。
もっと目の前にある問題は、AIがどれほど賢くなるかではなく、そのAIに何を語らせるのかを誰が決めているのかということではないか。
私たちが「AIがそう言っている」と聞いたとき、本当に聞いているのはAIだけなのか。その背後でデータを選び、ルールを書き、回答を評価し、何を許し、何を拒否するかを決めた人間の判断まで含めて聞いているのではないか。
AIは、人間の外側から突然現れた新しい権力ではない。
いまのところAIは、人間がつくった制度や企業、政府の中で、人間の判断を大規模に伝えるための新しい仕組みである。
だから、AI時代の権力を考えるときに最も大切なのは、機械そのものを恐れることではなく、その機械を通して私たちに語りかける人間と組織が誰なのかを見失わないことだろう。
「AIがそう言っている」。その一言の背後に誰がいるのか。
私は、AI時代の民主主義がまず考えなければならないのは、その問いではないかと思う。
参考文献
Elizabeth Dias, “Is Claude Conscious? Inside Anthropic’s Quest to Instill Morality Into Its A.I. Models,” The New York Times, September 29, 2026.
Anthropic, “Claude’s Constitution,” 2026.
Anthropic, “Widening the Conversation on Frontier AI,” May 19, 2026.
Anthropic, “What Do You Want from AI?,” September 29, 2026.
The White House, “Streamlining Access to Government Services Through America.gov,” September 29, 2026.
The White House, “Fact Sheet: President Donald J. Trump Streamlines Access to Government Services Through America.gov,” September 29, 2026.
The White House, “Inaugurating the Era of Super Intelligence,” September 29, 2026.
Associated Press, “Trump touts America.gov, but its government-sourced AI answers undercut many of his statements,” September 29, 2026.
【Cultural Newsへのご支援のお願い】
本稿は、髙濱賛による連載「A Japanese View from America」の一篇です。
Cultural Newsは、日系社会と米国社会を結ぶ架け橋として、報道、論評、文化活動を続けています。こうした活動を継続するためには、読者の皆様のご支援が欠かせません。
本記事に共感いただけましたら、Cultural Newsへのご寄付をご検討いただければ幸いです。皆様からのご支援は、取材活動、記事制作、地域社会への情報発信を支える重要な基盤となります。
今後ともご愛読とご支援を賜りますよう、心よりお願い申し上げます。
Cultural Newsへのドネーションは、下記リンクからお願いします。
https://www.culturalnews.com/donation
【PRI】Power in the Age of AI — Who Is Behind “AI Says So”?
By Tato Takahama
Pacific Research Institute
October 5, 2026
When people say that “AI must be taught morality,” most of us would probably agree. As artificial intelligence becomes capable of processing information far more quickly than humans and may eventually take on forms of judgment that humans cannot perform on their own, it seems reasonable to ask what AI should and should not be allowed to do. Yet what struck me as I read New York Times reporter Elizabeth Dias’s September 29 article about Anthropic’s Claude was the question that comes before all of that: Who gets to teach AI morality, and who decides what standards those teachers should use when they determine what is good for human beings?
Anthropic has tried to address that question by developing what it calls “Claude’s Constitution,” a set of principles intended to guide the model’s values and behavior. According to Anthropic, the company consulted scholars, clergy members, philosophers, ethicists and others from more than 15 religious and cultural traditions as it considered what those principles should be. The effort is important. It recognizes that creating a responsible AI system involves questions that go well beyond engineering and requires consideration of the ethical, religious, philosophical and cultural traditions through which human beings have thought about right and wrong.
But listening to a wide range of traditions is not the same as representing humanity as a whole. Buddhism, for example, approaches the idea of the self differently from much of Western philosophy. Confucian thought places particular emphasis on relationships, social roles and obligations. Islamic traditions have their own understandings of responsibility, justice and community, while Shinto has historically approached human beings, nature, place and community in ways that do not fit neatly into Western categories.
Once those differences are taken seriously, another question inevitably follows. When these traditions disagree, someone must decide which principles should be included, which should be left out, how conflicting values should be reconciled and, perhaps most importantly, which principles should take precedence when they cannot all be satisfied at once. In the case of Claude, that final authority rests with Anthropic.
That is not necessarily a criticism of the company. It is a recognition of where power resides. The important question in thinking about AI is not simply how many voices were consulted, but who ultimately has the authority to turn those different voices into the rules by which a machine behaves.
The same question can be asked of ChatGPT and other major AI systems. Their answers do not emerge from some independent moral authority possessed by the machines themselves. They are shaped by human choices: the data used to train the models, the sources and evaluations that influence their behavior, system instructions, safety rules, model specifications, and the policies used to reinforce some responses while restricting others. The machine does not create those principles on its own, nor does it possess the authority to rewrite the rules under which it operates.
This becomes particularly important when AI moves from private technology companies into the relationship between government and citizens. On September 29, President Donald Trump launched America.gov, a new federal portal intended to provide a single digital entrance to government information and services. The White House describes it as more than a collection of links to government websites. Citizens are supposed to be able to ask questions in ordinary language, receive information and, eventually, use the system for services such as passport renewal and Medicare enrollment. The White House has also said that the system will use what it calls “Super Intelligence,” or SI.
The significance of America.gov became apparent almost immediately. On its first day, the Associated Press tested the system and found that some of its government-sourced AI answers contradicted claims Trump himself has repeatedly made.
When asked about the 2020 presidential election, the system did not endorse the claim that widespread fraud had occurred on a scale sufficient to overturn the result. When asked whether Trump could seek a third term, it referred to the 22nd Amendment, which limits a person to being elected president twice. On climate change, it reflected the federal government’s scientific position that human activity is a major cause of recent warming.
The system’s answers later changed. According to the AP, America.gov began responding to some politically sensitive questions by saying, in effect, that it could not answer political questions.
That change raises a question that goes well beyond Trump or any administration: Who decided which government sources should be treated as authoritative? Who determined which claims should be presented as established facts, which political questions the system should answer and which should it avoid? And when those rules change, who has the authority to change them?
These are questions of governance as much as they are questions of technology. The more deeply AI becomes embedded in government, education, business and everyday life, the more important it becomes to understand that a machine’s answer is never simply “the answer.” Behind the answer are choices about sources, priorities, values, rules and institutions.
The question, then, is not merely whether AI will eventually become more intelligent than human beings. A more immediate question is who gets to decide what machines are taught to treat as knowledge, what they are taught to regard as acceptable behavior, and whose values users ultimately encounter when they ask a machine for an answer.
When someone says, “AI says so,” we should remember to ask who is behind that answer. In the age of AI, that may be one of the most important questions for democracy.
Note: English translation was prepared by the author. Translation assistance tools may have been used.
