LLMが「作戦参謀」として機能し始めた背景

批評：生死の判断にLLMが介入する時代——軍事意思決定とAI倫理の交差点（記事内画像）

指揮官が攻撃目標の候補リストをチャットボットに提示させる時代が、すでに始まっているという。Source が報じるとおり、LLM（Large Language Model：大規模言語モデル、膨大なテキストデータを学習し自然言語で応答する機械学習モデルの総称）を基盤とする「助言AI」は、軍の意思決定プロセスに深く組み込まれつつある。この動きは、シリコンバレーとペンタゴン（米国防総省）の関係をかつてないほど緊密なものにしていると評価できる。

背景として押さえておくべきは、現代の軍事作戦における情報処理の規模と速度の問題だろう。衛星画像、通信傍受、オープンソースインテリジェンス（OSINT：公開情報を収集・分析する情報活動）など、現代の戦場で生成されるデータ量は人間のアナリストが処理できる限界を大きく超えつつあると考えられる。こうした文脈において、LLMは「情報を整理し、選択肢を列挙し、優先順位を示す」という役割を担う存在として注目されてきた。問題は、その「選択肢の列挙」が攻撃目標の候補リストにまで及ぶという点にある。

また、米国防高等研究計画局（DARPA）や各軍の研究機関が、AIを指揮統制（C2：Command and Control）システムに統合する研究を長年にわたり推進してきた経緯も、この流れを加速させた要因のひとつと思われる。民間のLLM技術が急速に成熟したことで、かつては専用システムでしか実現できなかった自然言語インターフェースによる意思決定支援が、比較的低コストで実装可能になったという側面もあるだろう。

「助言」と「決定」の境界線——倫理・法的論点の整理

AIが軍事意思決定に関与する場合、最も根本的な問いは「誰が責任を負うのか」という点に集約されると考える。国際人道法（IHL：International Humanitarian Law、武力紛争における人道的保護を定める法体系）の観点からは、攻撃の合法性判断——とりわけ「区別原則」（戦闘員と民間人を区別する義務）および「均衡性原則」（軍事的利益と民間人への付随的被害を比較衡量する義務）——は、依然として人間の指揮官が担うべきとされている。

しかしながら、AIが候補リストを生成し、その候補に対して指揮官が短時間で承認・却下の判断を下す運用形態が定着した場合、実質的な意思決定の重心がAIに移行するリスクが生じると思われる。認知科学の分野では「自動化バイアス（automation bias）」——人間がアルゴリズムの出力を過度に信頼し、批判的検討を省略してしまう傾向——が広く知られており、軍事文脈においてもこの問題は深刻であると評価できる。

さらに、LLM固有の技術的問題も看過できない。LLMは「幻覚（hallucination）」——統計的に尤もらしいが事実に反する情報を生成する現象——を起こすことが知られており、標的情報の誤認識が実際の攻撃判断に影響を及ぼす可能性は、理論的には排除できない。加えて、LLMの推論過程は「ブラックボックス」性が高く、なぜその標的が候補として挙げられたのかを事後的に説明・監査することが困難な場合があると考えられる。これは、国際法上の説明責任（accountability）の観点から重大な問題を孕んでいると思われる。

ただし、「AIが関与する＝人間の判断が排除される」という単純な図式には留保が必要だろう。現時点で報告されている多くの運用形態は、AIをあくまで「情報整理・選択肢提示」の補助ツールとして位置づけており、最終的な攻撃承認権限は人間の指揮官に留保されているとされる。この「人間による制御（Human-in-the-loop）」の実質的な機能がどの程度保たれているかが、倫理評価の核心的な争点になると考える。

シリコンバレーとペンタゴンの蜜月——技術企業の倫理的責任

今回の動向が示す構造的な問題のひとつは、民間テクノロジー企業が軍事利用を前提とした製品開発にどこまで関与すべきかという問いが、改めて鮮明になった点だろう。2018年にGoogleが米空軍のドローン映像解析プロジェクト「Project Maven」から撤退した事例は、テクノロジー企業の従業員が軍事利用に対して強い倫理的懸念を示した代表例として知られている。しかしその後、Palantir、Anduril、Microsoft、Amazonなど多くの企業が国防関連契約を拡大しており、業界全体の姿勢は一様ではないと評価できる。

LLMを提供する企業の利用規約には、一般に「有害な用途」や「武器開発」への使用を禁じる条項が含まれているが、「軍事的意思決定支援」がこれらの禁止条項に該当するかどうかの解釈は曖昧なままであることが多い。また、政府機関向けに特別なライセンス形態で提供されるモデルの場合、一般向け利用規約とは異なる条件が適用される可能性もあり、外部からの透明性の確保が難しい構造になっていると思われる。

この問題を考えるうえで参照に値するのが、国連レベルでの議論の動向だろう。「自律型致死兵器システム（LAWS：Lethal Autonomous Weapons Systems）」に関する特定通常兵器条約（CCW）の専門家会合は、完全自律型の致死兵器に対する規制の必要性を繰り返し議論してきた。LLMを用いた「助言AI」は厳密には「自律型致死兵器」とは異なるカテゴリに位置づけられるが、その境界線がどこにあるのかは、技術の進化とともに問い直されるべき問題と考える。

結論——問いを閉じないことの重要性

本稿で検討してきた論点を振り返ると、LLMの軍事的意思決定への組み込みは、技術的な実現可能性の問題というより、社会・倫理・法的な枠組みの整備が追いついていないという構造的課題を浮き彫りにしていると評価できる。「助言」と「決定」の境界、自動化バイアスのリスク、ブラックボックス性による説明責任の空白、そして民間テクノロジー企業の倫理的責任——これらの問いはいずれも、技術の進展速度に比して、社会的議論の深度が著しく不足しているように筆者には思われる。

ただし、この領域における情報の多くは機密性が高く、実際の運用実態を外部から正確に把握することは困難であるという根本的な制約があることも、読者には留意いただきたい。本稿で示した論点は、あくまで公開情報に基づく検討であり、現場の実態を網羅的に反映しているとは言い難い。それでもなお、生死に関わる判断にアルゴリズムが介在することの意味を、私たちが社会として継続的に問い続けることには、相応の価値があると考える。技術の進展を所与のものとして受け入れるのではなく、その設計思想と運用規範を批判的に検討する姿勢が、今この時代においてこそ求められているのではないだろうか。