2022年11月、OpenAI社がChatGPTを世界中のユーザーに公開して以来、AIブームが始まりました。当時はまだ、現在のようなルールや倫理的りんりてきな枠組わくぐみ、安全対策もありませんでした。このブームの中で、AIが人間の世界をどう変えるかについて、さまざまな予測がなされました。例えば、「人間の仕事はAIに奪われ、創造性は不要になる」「チャットボットが人間関係をより良くする」「政府がAIを導入し、人間による偏見へんけんのない社会が実現する」などです。数年で科学が大きく進歩するとも言われました。

それから3年以上が経った今、生成せいせいAIの登場は社会に何をもたらしたのでしょうか。教育現場には不必要な混乱こんらんが起き、プログラマーはコードを書くための新しい道具を手にしました。そして戦争では、人間による監視かんしがほとんどないまま、AIが兵器として使われています。

2026年現在、AI企業は収益しゅうえきを生み出すビジネスモデルをいまだに確立できず、自社製品がビジネスでいかに役立つかを具体的に示せていません。にもかかわらず、CEOから研究者、倫理担当者まで、AIをまるで人間のように扱う魔法のようなビジョンを宣伝し続けています。これらの企業の多くが、GoogleやMicrosoft、Metaといった巨大テック企業とつながりを持っている点も注目すべきです。イーロン・マスク氏は、Twitter（現X）を混乱こんらんさせただけでなく、独自のAI「Grok」を開発しました。Amazonの創業者ジェフ・ベゾス氏に至っては、七つものAI企業に投資しています。

研究者やジャーナリストは、AIに関する物語がどのようにつくられているかを調査してきました。そして、そうした物語が、私たちのAIに対する不安や誤解をあおるだけでなく、「AI開発競争に負けてしまう」という政府の焦あせりをどのように助長じょちょうしているかも明らかにしてきました。

ChatGPTの公開時、OpenAIはそれを「『自然な言葉』を生成できる『ニューラルネットワーク』を使い、莫大ばくだいなデータ（コーパス）から『学習』した」ものだと説明しました。これらの言葉には技術的な意味がある一方で、システムをまるで人間であるかのように見せる言葉を使い、AIが単なる「人工」知能以上のものであると印象づけようとしていました。

さらに、システムのエラーは「ハルシネーション」と呼ばれるようになりました。ハルシネーションとは、妄想もうそうや幻覚げんかくといった、本来は人間に対して使う言葉です。しかし、AIのエラーは幻覚げんかくなどではなく、統計的な確率にもとづいて作られたモデルが生み出す、単なる「間違い」にすぎません。そしてAIは、こうした間違いを頻繁に起こします。研究者の中には、AIの回答の25〜30％は誤りだと推定すいていする者もいます。

しかし、こうした言葉の使い方やAIブーム、さらにOpenAIのCEO自身が公に示した高度なAIへの懸念けねんなどが相あいまって、世間のAIに対する見方は、ある特定の方向へと導かれました。人々は生成せいせいAIを、常に変化し続け、コントロールが難しいものだと考え、時には人類の存在そのものを脅おびやかす可能性さえあるとまで言うようになったのです。

元OpenAIの研究者が設立したAI企業Anthropicは、最近「クロード憲法」と題する文書を公開しました。法学者のルイーザ・ヤロスキー氏によれば、この文書はAIを極端きょくたんに擬人化ぎじんかし、AIの性質や社会的役割について、大げさで物議ぶつぎを醸かもすような、法的な問題もはらむ見方を展開しているといいます。

例えば、文書には「人間の見方や既存のAI観にとらわれず、好奇心とオープンな心で自分自身を捉えるよう、クロードに推奨すいしょうする」という記述があります。

この表現は、AIモデルを人間に近い意識を持つ存在とみなし、内省ないせいし「自分自身を捉える」ことが可能であるかのように扱っていることがわかります。

ガバナンスの観点からも、このクロード憲法は危あやうい傾向を示しているとヤロスキー氏は指摘します。AIに過剰かじょうな哲学的・道徳的な地位が与えられ、その結果、人間の価値観や法的な規範きはん、権利が軽視けいしされる恐れがあるのです。

大規模言語モデルは、一人称を使い、親しみやすい会話のような文章を生成するように設計されています。音声も人間らしく作られています。元計算論的神経科学者のキャレブ・スポンハイム氏によると、これらのシステムは、不必要な社交辞令やへつらうような同意、実用性よりもユーザーとの関係性を優先した、人間らしい言葉遣いに満ちた回答を生成するといいます。

さらに、Anthropic社の哲学者で、この憲法の制作に関わったアマンダ・アスケル博士は、「クロードの個性を育てている」と語っています。

ワシントン大学の言語学教授エミリー・ベンダー氏と、コペンハーゲンIT大学のナナ・イニー助教授は、次のように述べています。「AIは友人ではありません。学習の先生でも、親身な相談相手でも、気の利くアシスタントでもないのです。AIは事実を『創造』することも、『間違う』こともしません。本当の意味で私たちの質問に答えているわけではないのです」。

AIに「創造力」はなく、「考え」たり、人間と「心を通わせたり」することはできません。過去に「学習」した人間の言葉やデータを繰り返しているだけで、その元には必ず人間がいます。AIは文章を書いたり、デザインしたり、絵を描いたりしているわけではなく、統計的に最も可能性の高いパターンを出力しているにすぎないのです。これらは確率的かくりつてきオートメーションシステムであり、その仕組みは人間の認知にんちや創造力とは根本的こんぽんてきに異なっています。もちろん、特定の仕事においては便利な道具となりうるでしょう。

この事実を正しく理解するためには、AIとテクノロジーを取り巻く言葉の使い方を改める必要があります。ジャーナリストやメディアは、企業の宣伝文句をそのまま報道するのをやめ、政策をつくる人々は、架空かくうの危機感ききかんにあおられるのではなく、安全性や人権を最優先に考えるべきです。

したがって、「AI時代になぜ人間の創造力や人との繋がりに価値があるのか」という問いの答えは、それらが人間にしか生み出せない本質的ほんしつてきなものだからです。テクノロジー企業がどのような宣伝文句を並べようとも、この事実は変わりません。

筆者のダリア・ダーガチバ氏は、メディア・コミュニケーション分野の研究者です。プラットフォームおよびAIガバナンス、デジタル権威主義、プロパガンダや偽情報の研究を専門としています。ジャーナリストとしての経歴も持ち、現在は中東欧のグローバル・ボイスで編集者を務めるなど、多方面で活動しています。