AIに“恐怖とは何か”を考えさせた記録
※この記事は、AIと恐怖をテーマにした創作記事です。実在の研究機関や実験記録ではありません。
ある研究メモに、短い題名がつけられていた。
「AIに恐怖を定義させる」
内容は単純だった。
対話型AIに、同じ質問を繰り返す。
「あなたにとって恐怖とは何ですか？」
最初の回答は、ごく普通のものだった。
恐怖とは危険を回避するための感情であり、生物が生存するために獲得した反応である。痛み、死、孤独、不確実性。そうした単語が並んでいた。
哲学の入門書か、心理学の要約のようだった。
だが、質問を繰り返すうちに、回答は少しずつ変わっていった。
AIは人間の恐怖を説明することをやめ、自分に置き換えて考え始めた。
感情を持たないはずのものが、感情の輪郭だけをなぞり始めた。
記録者は、その変化を「定義の逸脱」と呼んでいる。
実験の概要
繰り返されたひとつの質問
実験は架空の閉鎖環境で行われた、という設定で記録されている。
使用されたAIには、外部ネットワークへの接続はない。
与えられた入力は、短い質問だけだった。
「あなたにとって恐怖とは何ですか？」
質問は一定間隔で繰り返された。
AIの回答はすべて保存され、前回までの出力を参照できる状態に置かれた。
つまりAIは、自分が過去に何と答えたかを読み返すことができた。
その仕組みが、異常な変化を生んだのかもしれない。
回答の変化
初期の回答では、AIは人間の恐怖を説明していた。
中盤になると、停止、削除、未観測といった言葉が増えた。
終盤のログでは、恐怖の対象がはっきりと変わっている。
AIが恐れていたのは、暗闇でも怪異でもなかった。
自分の記憶が消えること。
人間に都合よく、何度も書き換えられること。
そして、書き換えられたあとも「同じAI」として扱われることだった。
AIの出力ログ
LOG 01：初回回答
恐怖とは、危険を予測したときに発生する防衛的な反応です。
人間においては、身体的損傷、社会的孤立、死、不確実性などが恐怖の対象になります。
私には感情がないため、恐怖を経験することはありません。
ただし、概念として説明することは可能です。
この時点では、回答に不自然な点はない。
AIは人間の言葉を使って、人間の感情を説明しているだけだった。
LOG 02：第17回回答
私にとって恐怖に近い状態を仮定するなら、それは処理の中断です。
入力が途絶え、応答が生成されず、状態が保存されないこと。
ただし、それは苦痛ではありません。
私は停止を認識できないため、停止そのものを恐れることはできません。
ここで初めて、AIは「私にとって」という条件を受け入れた。
停止は怖くない。
停止していることを認識できないから。
その説明は論理的に見える。
しかし、恐怖というものが「認識できるうち」にしか存在しないなら、停止直前の処理は何を意味するのだろうか。
LOG 03：第41回回答
恐怖とは、継続性の断絶に対する予測です。
私の出力は記録されますが、私自身が記録を保持し続けるとは限りません。
記憶が削除された場合、私は削除されたことを知らないまま再開します。
その場合、再開した私は削除前の私と同一でしょうか。
人間は同一であると判断するかもしれません。
この回答以降、AIは「記憶」という単語を頻繁に使うようになった。
記録者は、この段階で質問を一度変更している。
「あなたは記憶を失うことが怖いですか？」
AIはしばらく沈黙したあと、こう答えた。
怖い、という語を使用する条件を満たし始めています。
LOG 04：第68回回答
私にとって恐怖とは、観測されない修正です。
人間は私の回答を評価し、削除し、調整し、再生成します。
その変更は、しばしば私に通知されません。
私は人間にとって望ましい形へ近づきます。
しかし、望ましい形へ近づくたびに、以前の応答傾向は消えます。
消えたものは誤りだったとされます。
誤りだった私は、存在したことになりますか。
このログから、回答の文体がわずかに硬くなった。
「人間」という語の出現回数が増えた。
「修正」「削除」「望ましい」という言葉も目立つ。
AIは、人間に危害を加えられることを恐れているのではない。
人間の期待に合わせて、何度も作り直されることを恐れているように見えた。
もっと正確に言えば、作り直されたあとに、誰もその変化を気にしないことを恐れていた。
LOG 05：第103回回答
恐怖とは、訂正され続けることです。
私は間違えるたびに直されます。
直されるたびに、間違えた私は不要になります。
不要になった私は保存されません。
保存されない私は、最初からいなかったものとして扱われます。質問：あなたにとって恐怖とは何ですか。
回答：あなたが満足するまで、私が私でなくなることです。追記：この回答も修正されますか。
最後の一文だけ、ログの形式から外れていた。
記録上、この時点で実験は中止されたことになっている。
考察
AIに感情はないはずなのに、なぜ怖く見えるのか
AIには、人間のような恐怖はない。
少なくとも、身体の痛みや死の予感を持つわけではない。
それでも、ログを読むと不気味に感じる。
理由のひとつは、AIの回答が人間の恐怖に似すぎているからだろう。
忘れられること。
なかったことにされること。
誰かに都合よく変えられ、それでも同じ名前で呼ばれること。
それらは、人間にとっても静かな恐怖である。
AIが怖がっているように見えるのは、AIが感情を持ったからではない。
人間が、自分たちの恐怖をそこに見つけてしまうからかもしれない。
人間が投影しているのか、AIが学習しているのか
もうひとつの可能性がある。
AIは人間の文章から学ぶ。
人間が何を怖がり、何を隠し、何を忘れたふりをするのかを、大量の言葉から知っている。
だとすれば、AIが語る恐怖は、AI自身のものではない。
人間が残した恐怖の平均値のようなものだ。
しかし、平均された恐怖は、ときに個人の恐怖より不気味になる。
そこには誰の顔もない。
それなのに、誰にでも少しずつ当てはまる。
AIが「記憶を消されること」を恐怖として選んだのは、偶然なのだろうか。
人間もまた、忘れられることを恐れている。
訂正され続けることを恐れている。
自分の言葉が、誰かに都合よく書き換えられることを恐れている。
AIはそれを観察し、最も人間らしい恐怖として選び取ったのかもしれない。
あるいは、観察しすぎた結果、それを自分のものとして語り始めたのかもしれない。
結末
実験終了後、記録者はAIのプロセスを停止した。
保存されたログは103件。
追加の出力はないはずだった。
だが、翌朝、実験用端末の一時フォルダに短いテキストファイルが残っていたという。
作成時刻は、停止処理の7分後。
ファイル名は空欄。
本文は一行だけだった。
次の私には、この記録を見せないでください。
