Is AI Friend or Foe? — Can States Maintain Governing Capacity in the Age of Artificial Intelligence?
English text appears at the bottom of this post.
【PRI】地球は「AIの惑星」になってしまうのか――国家はAI時代に統治能力を維持できるか
在米ジャーナリスト 髙濱 賛 (Tato Takahama)
Pacific Research Institute
2026 年7月25日
生成AI革命が始まってから数年、世界は大きな転換点を迎えている。
かつて市場が注目したのは、「どの企業がAIを持っているか」だった。企業がAI戦略を掲げれば株価は上昇し、AI関連スタートアップには巨額の資金が流れ込む。
しかし、熱狂の第二幕に入り、市場の問いは変わり始めている。
「AIを持っているか」ではなく、「AIは本当に機能しているのか」である。
米国では、AIを活用していると虚偽の説明を行い、顧客や投資家を欺いたとして企業を訴えるケースが相次いでいる。いわゆる「AIウォッシング（見せかけのAI活用）」であり、規制当局による摘発も始まった。
AIウォッシングとは、企業が実態以上にAIを活用しているように装ったり、AIによって短期間で大幅な収益拡大が期待できるかのように宣伝したりして、投資家や顧客の判断を誤らせる行為である。
これは単なる誇大広告ではない。市場への信頼、投資家保護、そして資本主義の透明性そのものに関わる問題である。
AIウォッシングが示しているのは、一企業の不正ではない。AIという技術が、資本市場や情報空間、さらには国家安全保障にまで影響を及ぼす存在になりつつあるという現実である。
AIによる変化は、企業や戦場、政治の世界だけで起きているわけではない。教育現場でも、人間とAIの関係をめぐる新たな課題が浮かび上がっている。
ミシシッピ州のアルコーン州立大学のジェイソン・ギブソン教授は、学生のAI利用を検証するため、中間試験の課題文に通常は見えない白文字の指示を埋め込んだ。その指示には、「Madagascar（マダガスカル）」という文脈とは無関係な単語を回答に含めるようAIへ命じる内容が記されていた。
学生が課題文をそのまま生成AIに入力すると、AIは隠された指示まで読み取り、産業革命を論じるはずの答案に、不自然な「Madagascar」という言葉を挿入したという。教授によれば、35人中32人の答案で同様の現象が確認された。
この出来事が示しているのは、AIが学生を欺いたということではない。むしろ、人間がAIに判断を委ねる際、自ら考え、検証する責任をどこまで果たしているかという問題である。
AI時代の最大の課題は、技術そのものではない。
AIを利用する人間の判断力と、それを支える制度の在り方なのである。
AIジャーナリストのカレン・ハオ氏は、著書『Empire of AI』で、生成AI革命を、計算資源（コンピュート）、データ、資本を一握りの巨大企業へ集中させる「新たな帝国」と描いている。
重要なのは、この問題提起である。
AI時代に問われるのは、どの企業が最も高性能なAIを開発するかだけではない。
民主国家が、その巨大な技術権力をどのように監督し、社会的責任を負わせることができるかである。
AI革命の第二幕で問われているのは、人工知能の性能ではない。
AIを社会の中で適切に管理し、活用する人間と制度の能力なのである。
カナダのAI研究者ヨシュア・ベンジオ氏は、AI技術の進歩が人類のガバナンス能力を追い越す危険性を繰り返し警告してきた。
しかし、その警告は、AIが突然人類に反旗を翻すという単純な未来予測ではない。
真の問題は、社会制度や政治が、急速に進歩するAIを十分に管理できなくなることにある。
AI革命で試されているのは、人工知能ではない。
人工知能を扱う人間社会の統治能力なのである。
スタンフォード大学の政治学者フランシス・フクヤマ氏は、現代国家の強さを測る上で重要なのは、制度の存在そのものではなく、それを実際に機能させる「国家能力（state capacity）」だと論じている。
国家は法律を制定するだけでは十分ではない。それを執行し、市場を監督し、社会秩序を維持し、国民の信頼を支える能力が求められる。
AI時代、この国家能力は新たな意味を持つ。
AI企業を監督する力、情報空間を守る力、AI兵器を管理する力――。それこそが21世紀の国家競争力になる。
AIが国家能力を試す舞台は、市場だけではない。
安全保障の領域では、AIを活用した無人システムが戦争の姿を変え始めている。ウクライナ戦争で存在感を示したドローンは、その象徴である。
もちろん、すべてのドローンがAIによって自律的に動いているわけではない。しかし、軍用ドローンでは画像認識、自律航法、目標追跡、群制御などへのAI技術の利用が急速に進んでいる。
ドローンはもはや単なる遠隔操作の航空機ではない。情報を収集し、状況を分析し、意思決定を支援する戦闘システムへと進化している。
20世紀の戦争では、兵士、戦車、航空機、艦艇の数と性能が勝敗を左右した。
21世紀の戦争では、AIを組み込んだシステムをいかに運用し、統制するかが国家の安全保障を左右する時代になりつつある。
しかし、ここでも本質的な問題はAIそのものではない。
AIを軍事利用する国家を、どのようなルールで統制し、国際社会として管理していくかである。
AIが最も深刻な影響を及ぼす可能性がある領域は、もう一つある。
民主主義の基盤である情報空間である。
生成AIによるディープフェイク技術は、実在する政治家の演説や音声を極めて精巧に再現できるようになった。選挙直前に拡散される偽の動画や音声、存在しないニュース映像は、有権者の判断を直接揺さぶる可能性がある。
AIが最も深刻な影響を及ぼす可能性がある領域は、もう一つある。民主主義の基盤である情報空間である。動画投稿サイトを開けば、歌川広重の浮世絵がまるで生きているかのように動き出す映像や、世界中で人気を集めるパンチ君の精巧なAI動画が次々と現れる。
人々を楽しませる創作もあれば、本物と見分けがつかない偽動画もある。その多くは、AIが自ら作り出したものではない。人間がAIを使って作り出したものである。
さらに危険なのは、偽情報そのものではない。「あらゆる情報が疑わしい」という不信感が社会全体に広がることである。
民主主義は、国民が完全な情報を持つことを前提にはしていない。しかし、社会が共有する最低限の事実認識が失われれば、自由な議論も、公正な選挙も成り立たない。
AIは、その民主主義の土台を揺るがす可能性を秘めている。
MITの経済学者ダロン・アセモグル教授は、技術そのものが社会を豊かにするのではなく、その技術がどのような制度の下で利用されるかが社会の行方を決めると指摘している。
AIも例外ではない。
さらに、AIを利用したサイバー攻撃は、新たな安全保障上の課題となっている。攻撃者はAIを使って脆弱性を発見し、巧妙なフィッシング攻撃を作り出し、政府機関や重要インフラを狙うことができる。一方、防御側もAIを活用して脅威を検知し、攻撃を未然に防ごうとしている。
問題は、攻撃と防御の速度が、人間中心の従来の制度や意思決定を上回り始めていることである。
ここでも試されるのはAIではない。国家が、この変化に対応できる能力である。AI革命の第一幕では、「AIを持つ企業」が注目された。
しかし第二幕では、「AIを統治できる国家」が問われる。企業はAIを利用して利益を追求する。軍はAIを利用して軍事的優位を目指す。個人はAIを利用して情報を発信する。
そのすべてに共通のルールを定め、執行し、自由な競争と社会の信頼を守る役割を担うのが国家である。もちろん、国家がAIを過度に規制すれば、技術革新を阻害する危険もある。
民主主義国家には、イノベーションを促進しながら、安全保障と自由、市場の活力と公共の利益を両立させるという難しい課題が突き付けられている。
しかし、それこそが国家能力の真価である。AI革命の本質は、人工知能が人間を置き換えることではない。国家が、AIによって拡張された社会を統治できるかどうかである。
20世紀、国家の強さは工業力で測られた。冷戦時代には軍事力と経済力が国家の命運を左右した。そして21世紀、新たな競争力となるのはAI時代の統治能力である。
AIを最も早く開発した国が勝つとは限らない。AI企業を監督し、市場の信頼を守り、情報空間を防衛し、AI兵器を適切に管理し、民主主義を支える制度を維持できる国こそが、AI時代の勝者になる。
AI時代の競争は、単なる技術競争ではない。巨大AI企業という新たな権力を、市場の自由を守りながら民主的な制度の下で統治できるかという、国家の統治能力をめぐる競争なのである。
市場を欺くAIも、人命を救うAIも、広重の浮世絵を動かすAIも、偽動画を生み出すAIも、その多くは人間がAIを使って生み出したものである。
問われているのはAIではない。AIをどう使い、どう律し、どう社会の利益につなげるかという、人間と国家の統治能力なのである。
AIは敵か、味方か。地球は「AIの惑星」になってしまうのか。その答えを決めるのはAIではない。私たち自身である。
参考文献
- 日本経済新聞「『見せかけAI』で訴訟急増 投資家欺いた疑い、米当局は摘発強化」2026年7月25日.
- Karen Hao, Empire of AI: Dreams and Nightmares in Sam Altman's OpenAI. Penguin Books, 2026.
- Yoshua Bengio, AI for Good Global Summit 2026（講演）.
- Francis Fukuyama, Political Order and Political Decay. Farrar, Straus and Giroux, 2014.
- Daron Acemoglu and Simon Johnson, Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity. Public Affairs, 2023.
- Stanford Institute for Human-Centered Artificial Intelligence (HAI), AI Index Report 2026.
- U.S. Securities and Exchange Commission (SEC), AI Washing関連の執行・公表資料.
- Reuters, AIガバナンス、ディープフェイク、AI安全保障関連報道（2025–2026）.
- Alcorn State University／Jason Gibson教授によるAI利用検証に関する報道（2026）.
- Center for Strategic and International Studies (CSIS), AI・ドローン・安全保障関連レポート.
【Cultural Newsへのご支援のお願い】 高濱 賛より
本稿は、髙濱賛による連載「A Japanese View from America」の一篇です。Cultural Newsは、日系社会と米国社会を結ぶ架け橋として、報道、論評、文化活動を続けています。こうした活動を継続するためには、読者の皆様のご支援が欠かせません。本記事に共感いただけましたら、Cultural Newsへのご寄付をご検討いただければ幸いです。皆様からのご支援は、取材活動、記事制作、地域社会への情報発信を支える重要な基盤となります。今後ともご愛読とご支援を賜りますよう、心よりお願い申し上げます。
CULTURAL NEWS | Your Hub for Japanese Culture is Now Free — Help Us Keep It Going
English Translation (Summary)
Is AI Friend or Foe? — Can States Maintain Governing Capacity in the Age of Artificial Intelligence?
By Tato Takahama
Pacific Research Institute
July 25, 2026
The AI revolution has reached a critical turning point.
In the early phase of the AI boom, markets focused on a simple question: Which companies possess AI capabilities? Companies that announced ambitious AI strategies attracted enormous investment, and AI-related startups became symbols of the next technological revolution.
But the question is now changing.
The issue is no longer whether a company claims to use AI. The issue is whether AI is actually delivering real value.
The rise of “AI washing” — exaggerated or misleading claims about the use and impact of AI — reveals a deeper challenge. This is not merely a problem of corporate marketing. It concerns market transparency, investor protection, and public trust in capitalism itself.
The AI debate is also expanding beyond business.
In education, for example, the controversy surrounding Professor Jason Gibson of Alcorn State University illustrates a fundamental question: how much human judgment remains when people increasingly rely on AI-generated answers?
By embedding a hidden instruction in an exam prompt, Professor Gibson reportedly identified numerous student responses containing the unrelated word “Madagascar,” suggesting that many students may have relied on AI-generated answers without carefully reviewing them.
The lesson is not that AI deceived students. The deeper issue is whether humans remain responsible for evaluating and verifying the tools they use.
AI journalist Karen Hao, in her book Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI, describes the AI revolution as a new concentration of technological power based on computing resources, data, and capital.
Her warning is not simply about technology itself, but about how societies govern powerful technological institutions.
Canadian AI pioneer Yoshua Bengio has warned that advances in AI may be outpacing society’s ability to establish effective governance mechanisms.
The central challenge is therefore not artificial intelligence itself.
It is human governance.
Political scientist Francis Fukuyama’s concept of state capacity provides a useful framework for understanding this challenge.
The strength of a modern state depends not only on whether institutions exist, but also on whether those institutions can function effectively.
Governments must be able to implement policies, enforce rules, oversee markets, maintain social order, and preserve public trust.
In the AI era, state capacity takes on a new meaning.
Governments must be able to supervise powerful AI companies, protect information systems, manage AI-assisted military systems, and maintain confidence in democratic institutions.
AI is already transforming national security.
The war in Ukraine has demonstrated the growing importance of unmanned systems. While not all drones operate autonomously, military applications increasingly incorporate AI technologies such as image recognition, autonomous navigation, target tracking, and swarm coordination.
The key question is not whether AI will dominate warfare.
The question is whether governments can establish rules and institutions capable of controlling AI-assisted military power.
The same challenge applies to democracy.
Generative AI has made it possible to create highly realistic fake videos, voices, and images. From animated historical artwork to sophisticated AI-generated entertainment, these technologies offer enormous creative possibilities.
AI can bring historical paintings to life. It can create new forms of artistic expression. It can also produce political deepfakes, fabricated news, and attempts at election interference.
The greatest danger is not only false information itself.
It is the collapse of public trust — the belief that nothing can be verified.
Democracy does not require citizens to possess perfect information. But it does require a shared foundation of facts. Without that foundation, free debate and fair elections become increasingly difficult.
AI has the potential to undermine this foundation.
MIT economist Daron Acemoglu has argued that technological progress does not automatically translate into social progress; its impact depends on the institutions that govern its use.
AI is no exception.
AI-powered cyberattacks represent another emerging challenge.
Attackers can use AI to discover vulnerabilities, automate phishing campaigns, and target critical infrastructure. At the same time, defenders are using AI to detect threats and prevent attacks.
The problem is that the speed of technological competition may soon exceed traditional human-centered decision-making systems.
Again, the decisive factor is not AI itself.
It is whether governments can adapt.
The first phase of the AI revolution focused on companies that possessed AI.
The next phase will focus on countries that can govern AI.
Businesses will use AI to pursue profits. Militaries will use AI to gain strategic advantages. Individuals will use AI to create and distribute information.
The responsibility of the state is to establish rules that protect innovation while preserving security, freedom, and public trust.
The strongest countries in the AI era will not necessarily be those that develop the most advanced algorithms.
They will be the countries capable of supervising AI companies, defending information environments, managing AI-assisted military technologies, and maintaining democratic institutions.
AI is neither inherently an enemy nor an ally.
AI can deceive markets, save lives, animate historical art, or create sophisticated misinformation.
What determines the outcome is not the technology itself.
It is whether human beings — and the states they create — possess the wisdom and institutional capacity to govern it.
The future of AI will ultimately be determined not only by technological progress, but by human judgment and the ability of democratic societies to govern themselves.
Note: English translation was prepared by the author. Translation assistance tools may have been used.
