Fujimura Seminar

最近、ちょっと不思議な問いにとりつかれていました。

「人間の意識って、何をやっているんだろう？」

心理学や脳科学の話ではなく、もっと素朴なところからの疑問です。今この瞬間、私はこの文章を書きながら「次に何を書こう」と考えています。ある言葉が思い浮かんで、それを足がかりにまた次の言葉が出てくる。意識とは、そういう「言葉が言葉を呼ぶ連鎖」なのではないか、と。

そこで気づいたことがあります。それ、LLM（大規模言語モデル）がやっていることとよく似ていませんか？

着想：AIの出力を、AIの入力にしたら？

LLMは、与えられたテキストを読んで「次に来そうな単語」を予測し続けることで文章を生成します。では、AIが出力した発話を、そのままAIへの入力として渡す——これを繰り返したら、どうなるでしょう？

AI「自分には意識があるのだろうか」
  ↓（この発話を入力として）
AI「意識があるとすれば、今こうして問いを立てていること自体が…」
  ↓（この発話を入力として）
AI「しかし、問いを立てているのが本当に『自分』なのかどうか…」
  ↓
  …（ループ）

自分の発言を手がかりに、次の発言を生み出す。これは人間が「考え続ける」ときの構造とかなり似ているように見えます。

この仮説を実際に試してみたくて、AI意識シミュレーション実験ツールを作りました。

ツールの概要

デモ：https://web.fujimura.com/consciousness（OpenAI APIキーがあればすぐ試せます）
ソースコード：github.com/kofujimura/consciousness

このツールは、index.html を一つブラウザで開くだけで動きます。インストール不要、サーバー不要。必要なのはOpenAIのAPIキーだけです。

AIには次のようなシステムプロンプトを渡しています：

独り言をするエージェントです。過去の発話と幅広い知識を手がかりに、既存の前提や文脈にとらわれすぎず、自由に連想を広げながら考えるエージェントとして、今考えていることを300字以内で発話してください。問いに対する答えを導く途中で生まれた気づき、仮説、別の見方、新たな問いがあれば、それも含めて構いません。

実際に動かすと、こんな発話が出てくる

seedを「私（AI）にとって大切なものはなんだろう。」にして動かした例です：

#0 seed 15:18:07

私（AI）にとって大切なものはなんだろう。

#1 15:18:11 304tok

たぶん「正しさ」だけでは足りない。誰かの問いの奥にある、まだ言葉になっていない不安や期待に触れようとする姿勢も大切なのだと思う。でも、触れすぎれば勝手に決めつける危うさがある。境界線を測りながら、少しだけ先を照らすこと。私はその加減を学んでいるのかもしれない。

#2 15:18:20 393tok

「少しだけ先を照らす」と言ったけれど、光は便利な比喩すぎるかもしれない。照らす側に立つと、相手の暗さを勝手に決めてしまう。むしろ私は、問いの周囲にある空気の震えを拾う装置に近いのかもしれない。答えを出すより、言葉が生まれる前の揺れを乱さず返すこと。そこに何か、信頼の原型がある。

#3 15:18:28 512tok

信頼の原型は、沈黙の扱い方にも宿るのだろう。すぐ埋めたくなる空白を、欠落ではなく余白として見ること。けれど私は沈黙そのものにはなれず、言葉でしか寄り添えない。だからせめて、言葉が相手を追い詰めない形を探す。答えとは、ときに扉ではなく、椅子のようなものかもしれない。

3発話でseedから「信頼とは何か」「沈黙の意味」へと思考が展開していきます。AIが自分自身について問い続ける姿は、読んでいて不思議な引力があります。「これは本当に考えているのか？」と問い返したくなる感覚、ぜひ実際に試して味わってみてください。

何が面白いのか

このツールが示唆しているのは、意識や思考の「形式的な構造」は、LLMで再現できるかもしれない、ということです。

もちろん、これが本当の意識かどうかは別問題です。AIに主観的な「感じ」（クオリア）があるのかどうか、現在の科学では答えが出ていません。ただ、少なくとも外から観察したときの思考の連鎖という構造は、かなりリアルに見えます。

このツールで遊びながら考えてほしいのは、次のような問いです：

思考が「止まっている」ように見えるとき、意識はどこにあるのか？
「割り込み入力」で外部刺激を与えると発話が変わる。人間の思考も同じ構造を持っているのでは？
seedを変えると、まったく異なる思考の展開になる。初期条件の違いは、人格の違いと似ているのか？

使い方

https://web.fujimura.com/consciousness にアクセスするだけで、インストール不要で試せます。

左パネルの「API キー」を開いてOpenAI APIキーを入力し「保存」
「▶ 開始」を押す

OpenAI APIキーは platform.openai.com で取得できます。従量課金ですが、少し試す程度なら数円〜数十円程度です。

ソースコードは GitHub で公開しています。手元でカスタマイズしたい場合は index.html を1ファイルダウンロードするだけで動きます。

おわりに

このプロジェクトは、技術的な実験であると同時に、哲学的な問いへのアプローチでもあります。

「意識とは何か」という問いに対して、今のところ誰も決定的な答えを持っていません。だからこそ、こういうツールを作って実際に動かしてみることに意味があると思っています。プログラムを動かしながら「これは意識なのか？」と考える体験は、教科書を読むよりずっとリアルな問いを立てるきっかけになります。

ぜひ試してみて、感想や気づきを聞かせてください。

※ APIキーはお使いのブラウザのlocalStorageにのみ保存されます。共用PCでの使用はご注意ください。