LLMは真偽概念の夢を見るか

近年は、年が明けてしまってからメイドさんの絵を描き始める、というのがルーティーンになってしまった。当初は年末モードに突入した際に「お掃除頑張るぞー」的なモチベ向上を目指してはじめたハズだったのだけれど。

ともあれ世界は西暦2025年に突入。世界は激動の時代。「それって第三次世界大戦なんじゃね？」と思わせるような国際情勢や、ソーシャルメディアに大きく揺らぐ大都市エリート民主主義。世界規模だけじゃない。かつてニフティで遊んでた、「人工無脳」に毛の生えた程度のものだったAIがいよいよスマホからも使えるようになり、私たちのパーソナル環境も着実に変化を遂げてきている。
特に、生成AIの核となるLLM(大規模言語モデル)。ビッグデータの学習によって生み出されたその出力決定プロセスは(データ学習によってモデルが自動構築されるため)未だブラックボックス。この事実は、まるで人類が未知の技術を利用していかのようなSF的な感覚を覚える。最も、古来より職人が培ってきた技能の多くも、その仕組みは後から解明されるものだったわけだけど。

さて。うーん、初夢見たはずなんだけど、思い出せない。もう5日も経つのに今年見た夢が記憶にないなんて。
夢、といえばお仕事辞めてから暫く不思議な夢を繰り返し見ていた。それは、これまで出会った人たちが毎晩代わる代わる夢に現れるというもの。久しぶりに見る人も多くて「あ、今日はこの人の番なんだな・・・」と朝起きて思い返してる(これってフラグじゃないよね・・・)。

夢は、脳が眠っている間に記憶や感情を再体験させるもので何らかの情報処理が行われていると考えられている。未だ、詳しいことは分かってないみたいだけれど、シミュレーション学習だとか、記憶の整理だとか、記憶の強化あるいは不要な記憶の消去(デフラグかな)とか諸説あるみたい。
私の場合もライフスタイルの大きな変化を迎えたことで、体が何らかの対応を行ってるのだろうか。

夢を記憶や学習に関係するものだとするならば、LLMも夢を見るのだろうか。そう考えると、ちょっとロマンチック。

記憶は人格を決定づける大きな要素だと考える。LLMは用語間の相関関係によって回答を生成しているが、どのような回答をするのかによって、ユーザは相手の人格を感じる。どのような回答を選ぶかは学習したデータに依ることになるといえる。
最近のAIチャットアプリは、単なるチャットの履歴だけではなく、人間の記憶を模した機能を実装しつつある。今どんな文脈で会話していたか、などの短期記憶、相手がどんな人か、などの長期記憶が実装され、さらにモデル自身がもつ学習の微調整としてファインチューニングなどの機能もある。これらは、様々なタイミングでメモリに残っている生のデータを整理加工し、永続的なストレージに書き込むことで実現しているのだが、この「メモリ上にあるデータを再体験し再利用可能な状態に再構築する」というプロセスが、夢見る時間に該当するのではないだろうか。再構築後、メモリは整理されるので再体験したデータは覚えていない、つまり目覚めたあとは夢見た内容を忘れる、と似ていなくもない。記憶の違いによって個性をもつAIが派生し、(すでに行われているように、)特徴的なAI同士が共同することで、社会的なタスクもこなせるようになるだろう。今我々が直面している困難な社会問題に対しても、AIが影響する時代がやってくるのかもしれない。

お正月になるといつも未来の世界について思いを馳せてしまうのだけれど、そこで思い描くイメージは、未だに『ブレードランナー』の世界から抜け出せない。今年もまた『ブレードランナー』で考えてみる(笑)。
『ブレードランナー』の世界では、人を含む多くの自然物が人工的に生み出されている。人造人間(レプリカント)に至っては、自分が人間なのか人工物なのかさえ分からない。この曖昧さが物語の重要なテーマとなっている。一方で、人工物の植物や動物とは対照的に、「本物」の植物や動物などは希少な存在として描かれ、人々は「本物」に特別な価値を感じている。
しかし、もはや『ブレードランナー』の世界の人工物は「本物」と見分けがつかないぐらいの完成度に達している。このような状況（不気味の谷を越える状況）に至っても、人はなお「本物」を信奉するのだろうか？「本物」と「人工物」に違いがある(本物に優位性があるなど)とするならまだしも、判別不能なレベル、あるいは人工物に優位性があるとしても、「本物」への信仰はゆらがないのだろうか？

この問いを突き詰めて考えると、それは宗教的な議論に行きつくのかもしれない。

自然物はこの世界で長い長い年月の末に奇跡的に生み出されたもの(神に作られしもの、と言い換えてもよいか)であり、人工物にはその歴史がない、という考えなのかもしれない。だが、しかし「人工物」は自然物である人間によって作られたものであり、見方を変えれば自然物と地続きなのだとも言える。(「人工物」がさらに「人工物」を生み出してしまう、といった状況を迎える未来が到来すれば、より俯瞰して考えられるかもしれない。そんな思考実験のようなSFもあったような・・・)

それらをクリアしたとしても人々の多くは「本物」を信奉するのではないだろうか。「神」が作ったものと「人」が作ったものを同列に扱うことに対する忌避感・・・これを宗教と言わずして何と言おうか。
昔からロボットと人間との恋愛を描いたSF作品が大好き！なのだけれど、「人工生命」を「ヒト」と同じに扱う、という描写に、ある種の人々は忌避感や不安を覚えるのかもしれない。

しかし、そのような世界は、意外とすぐそこまで近づいてるんじゃないだろうか。