「奇妙なゲームだ。唯一の必勝法は、戦わないことだ」。1983年の映画『ウォー・ゲーム』で、核戦争のシミュレーションを続けた軍事コンピューターが出した結論だ。合理的な手を打つごとに関係者全員の状況が悪化するゲームがあることを、機械は理解したのである。40年後、米国のAI業界の一部も同じ結論に達した。しかし決定的な違いは、誰もこのゲームから降りられないことだ。
米国はOpenAIやAnthropicといった企業を通じて大規模言語モデル（LLM）開発を先行してきたが、ここ数カ月で中国製モデルが性能を大幅に向上させ、世界中で採用が進んでいる。米国は中国との競争での勝利を目指すが、同時に両国は、技術がもたらすリスクへの対処も模索しており、政府高官レベルでの対話も検討されている。
しかし、AIリスクへの懸念が強まる中でも米中間の緊張は緩和されず、米国は最先端半導体の対中輸出規制を継続している。こうした中、AI企業Anthropicのダリオ・アモデイCEOが開発ペースの減速を主張し、OpenAIのサム・アルトマンCEOやイーロン・マスク氏もこれに賛同する動きを見せた。
この「減速論」の背景には、純粋な安全性への懸念だけではない、複雑な動機が絡み合っている。AIが自らのプログラムを改良する「再帰的自己改善」が現実味を帯びる中、アモデイ氏は独立評価者の導入や国際的な共通基準の設立を提案している。しかし、これは技術的な問題である以前に、政治的な問題だ。
競争システムの中では、個人の誠実さは大きな意味を持たない。自分だけが減速しても全体の危険は減らず、減速しない競争相手に差をつけられるだけだ。この「囚人のジレンマ」のような状況は、個人の道徳心に訴えても解決しない。解決策は、慎重な姿勢を保つ者が損をしないような制度、つまり相互拘束の仕組みを構築することにある。外部の権威に規制を求めることは、他者にも同じ制約を課すための戦略でもあるのだ。
では、なぜ「今」減速が望ましいのか。第一の理由は経済的なものだ。最先端モデルの開発コストは急騰している一方、性能の向上は鈍化し、費用対効果が悪化している。奇しくもAnthropicとOpenAIが新規株式公開（IPO）を準備する中、監査や共通規格といった規制が導入されれば、業界のリスクは予測可能になり、無制限な競争コストも抑制できる。アモデイ氏自身が言うように、協調は「商業的優位性を犠牲にすることなく」安全性を確保する時間をもたらす。相対的な地位を保ったままの減速は、犠牲ではなく経済戦略なのだ。
第二の理由は、規制が市場への参入障壁として機能することだ。監査や法的責任といったコストのかかる規制は、すでに巨額の投資を行った先行企業にとっては吸収可能な費用だが、新規参入者にとっては高い壁となる。特に、誰もがモデルを改変・実行できるオープンウェイトモデル陣営にとっては深刻だ。企業が独占するモデルは遠隔で監視・停止できるが、一度公開されたオープンウェイトモデルは回収できない。そのため、規制はオープンソース開発の「上限」となり、その活動を阻害しかねないのである。
そして、この減速論が成り立つ大前提は、アモデイ氏も認めるように「中国に決定的な優位性を与えない」ことだ。米国のリードは以前考えられていたほど大きくはない。計算能力では米国が優位だが、エネルギーコストでは中国が有利だ。中国はオープンウェイトモデルの世界的な普及を戦略的に進め、国内では安全性と開発加速を同時に命じている。
この状況は、西側諸国に厳しい選択を迫る。開発を急ぐことを無責任と考える「破滅論者」と、他国に先行される方が危険だと考える「加速主義者」の対立だ。議論の焦点は、個々のモデルの安全性から、国家間の戦略的競争を管理する「軍備管理」へと移りつつある。民主主義国家がこの議論を公に行うことには、自らの制約を競争相手にさらすという戦略的コストが伴う。
西側だけの一方的な規制は、自らだけが減速するという最悪の結果を招きかねない。かといって、統制を重視する中国も、制御不能なAIを無条件に歓迎するわけではないだろう。結局のところ、どちらの側も相手の出方がわからない限り、先にブレーキを踏むことはできないのだ。
映画のコンピューターは一人だったからゲームを降りられた。しかし現在のAI開発競争には、生存と利益をかけて争う多くのプレイヤーが存在し、誰も単独では降りられない。必勝法は、もはや存在しない。最後に残るのは、「他者が追随する保証がない中で、誰が先にブレーキを踏めるのか」という、人間社会そのものへの問いかけである。