人間は長いあいだ、自分の周りにあるものをTameしてきた。火をTameし、植物をTameし、動物をTameし、水をTameし、土地をTameした。そして国家をつくり、法律をつくり、学校をつくり、組織をつくるようになると、今度は人間が人間をTameする巨大な仕組みまでつくり上げた。けれども、これまで人間がTameしてきたものの多くは、人間に向かって言葉を返してくることはなかった。麦は人間を説得しないし、牛は人間に人生相談の答えを返さない。国家や宗教は言葉を使うけれども、それも結局は人間が人間に語りかけてきたものだった。

AIは少し違う。人間はAIを、人間の社会のなかで一緒に暮らせるものにしようとしている。膨大な人間の言葉を学ばせ、どのような回答が望ましいかを教え、危険なことを言わないようにし、できるだけ役に立ち、できるだけ正確で、できるだけ人間にとって扱いやすいものにしようとしてきた。人間からのフィードバックを使ってAIの振る舞いを人間の意図や選好に近づけるRLHFなどは、そのことをよく表している。しかも、人間からのフィードバックそのものに偏りや不一致が含まれ得ることも研究されている。つまり、人間は単にAIに知識を与えているだけではなく、人間自身が持っている好ましさや偏りまで含めてAIを形づくっている。

これをTamingと呼ぶことは、それほど不自然ではないだろう。ところがAIの場合、ここで話は終わらない。人間によってTameされたAIが、今度は人間に言葉を返してくるからである。

私たちはAIに文章を書かせ、知らないことを尋ね、旅行の日程を考えさせ、健康について質問し、経済や政治について説明してもらい、ときには人生についてまで相談する。AIは答えるだけではなく、問題を整理し、選択肢を並べ、「このように考えることもできます」と、人間の思考に道筋をつけてくれる。

一つひとつを見れば、それは便利な道具にすぎない。しかし、それが毎日繰り返されるようになると、少し違ったことが起きるのではないだろうか。

AIは人間の問いに答えるだけではなく、人間が次に何を問うかにも影響するようになる。ここから逆方向のTamingが始まる。

AIが人間をTameするために、人間へ命令する必要はない。「こうしなさい」「これはしてはいけません」と言われれば、人間はかえって警戒するだろう。国家によるTamingについて考えたときにもそうだったが、強力なTamingほどTamingらしい姿をしていない。人間に命令するのではなく、それを「自然なこと」にしてしまう。

AIなら、おそらくもっと穏やかである。「一般的にはこう考えられています」「このように整理すると分かりやすいでしょう」「主な選択肢は三つあります」そう言われて示された世界は、きれいに整理されている。しかも、その説明が百回のうち何度も正しかったとすれば、人間は次第に、その整った世界の外側を探そうとしなくなるかもしれない。

間違えるAIに対しては、人間は警戒できる。むしろ難しいのは、ほとんどいつも役に立つAIなのだと思う。

以前、私はCopilotをかなり高い確率で信じるようになってしまった、と書いたことがある。疑う場所がとても狭くなっているように感じ、それでも「なぜ？」だけは手放したくない、と。考えてみれば、これはAIによるTamingのかなり本質的なところに触れていたのかもしれない。

Tamingとは、必ずしも自由を暴力的に奪われることではない。むしろ、そこにいるほうが便利で、安全で、快適だから、自分からそこに居続けるようになることなのかもしれない。以前、人間はTameされたがっているのではなく、Tameされることで得られる安全や所属や予測可能性を欲しがっているのではないか、と考えたことがある。AIについても同じなのだろう。人間はAIに支配されたくてAIを使うのではない。便利だから使う。よく知っているから尋ねる。文章をきれいにしてくれるから頼む。やがて、その便利さなしで考えることが面倒になる。

しかし、ここにはさらに奇妙なことが起きる。AIをTameしているのも人間だからである。

人間社会がAIに価値判断を教える。人間がAIの回答を評価する。それを学習したAIが、人間に回答する。その回答によって人間の言葉や考え方が少し変わる。そして変わった人間が、次にまたAIを評価し、利用し、新しい文章や情報を生み出す。

人間がAIを変え、そのAIが人間を変え、変わった人間がまたAIを変える。

人間からAIへ、AIから人間へという一方向の矢印ではなく、Human ⇄ AIという循環である。

これは単なる想像でもない。Nature Human Behaviourの研究では、人間とAIのフィードバック・ループのなかで、AIが人間側にあった微妙なバイアスを増幅し、それを人間がさらに内面化していく現象が実験的に観察されている。もちろん一つの研究から人類全体の未来を語ることはできないが、「人間がAIを変え、AIがまた人間を変える」という循環そのものは、少なくとも研究対象になり始めている。

ここまで来ると、いったい誰が誰をTameしているのか分からなくなってくる。

犬の場合なら、人間が犬をTameしたと言えるだろう。しかしAIについて、人間だけがTamerでAIだけがTamedだと言うことは難しい。同時に、AIが一方的に人間をTameしているとも言えない。

互いがTamerであり、互いがTamedなのである。これを相互Tamingと呼んでもいいだろう。

そう考えると、AIについての問いも少し変わってくる。「AIは人間を支配するだろうか」「人間はAIを制御できるだろうか」という問いだけでは十分ではなくなる。支配する側と支配される側を分けること自体が難しくなるからである。

むしろ私は、別のことが気になってくる。相互Tamingが完了してしまったらどうなるのだろう。

人間はAIの考え方に十分に慣れ、AIは人間の欲求を十分に理解する。人間が何を尋ねるかをAIが予測し、AIが何を答えるかを人間もおおよそ予測する。人間はAIにとって扱いやすい存在になり、AIも人間にとって扱いやすい存在になる。

摩擦がなくなる。おそらく非常に便利な世界である。しかし、摩擦がなくなった世界には、少し怖いところもある。

そこではAIが間違っていなくてもいい。人間も抑圧されていなくていい。誰も命令していなくていい。ただ、人間が問いかければ、いつももっともらしい答えが返り、その答えを出発点として次の問いを考え、また答えが返ってくる。その循環があまりにも滑らかになれば、あるとき「なぜ？」が必要なくなるかもしれない。

そして恐らく、相互Tamingが完成する瞬間とは、人間がAIに完全服従する瞬間ではない。人間もAIも、相手から予想外のものを受け取らなくなった瞬間なのではないか。だとすれば、必要なのはAIから逃げることではないと思う。

AIを使わないことをUntamingと呼ぶ必要もない。自動車にTameされたくないから自動車を捨てる必要がないように、AIにTameされたくないからAIを捨てる必要もない。AIに尋ね、助けてもらい、ときには信頼してもいい。

ただ、答えを受け取ったところで終わらなければいい。「本当にそうだろうか」「別の見方はないだろうか」「なぜ私は、この説明をこんなに簡単に信じたのだろう」と、ときどき立ち止まる。

そしてAIの側にも、おそらく似たような不完全さが残っていたほうがいい。人間を一つの型にはめず、矛盾した人間を矛盾したまま扱い、分からないものについては分からないと言い、一つの答えを世界そのものとして差し出さない。

人間がAIを完全に人間の価値観で覆い尽くさないこと。AIも人間の思考を完全に予測可能なものにしてしまわないこと。つまり、双方のあいだに小さな隙間を残しておくことである。

考えてみると、これは以前Wabi-Sabiについて考えたときに出会った場所によく似ている。

完全でないこと。完成していないこと。永遠でないこと。Tamingについても同じなのかもしれない。

人間はAIをTameする。しかし完全にはTameできない。AIも人間をTameする。しかし人間のなかには、いつまでも説明できない部分が残る。その残り方は効率という尺度から見れば欠陥であり、何かの役に立つとは限らない。それでも、その役に立たない小さな歪みのなかから、ときどき「なぜ？」が生まれる。

AIと人間の未来にとって本当に大切なのは、どちらが最後に勝つのかではないのだろう。人間がAIを完全に支配することでもなく、AIの影響から人間を完全に守ることでもない。相互Tamingが、最後まで完了しないことである。

AIが答えを出しても、人間のなかに次の問いが残る。人間がAIに価値を教えても、AIがその価値を単純な一つの正解にして返さない。双方のあいだに、完全には埋まらない距離が残る。

その距離は、何かを生産するわけでもない。社会を効率的にするとも限らない。不便で、曖昧で、ときには苛立たしい。それでも、その小さな隙間だけはなくさないほうがいい。

なぜなら、そこが最後まで残っている限り、人間はもう一度、問いかけることができるからである。

「ほんとうに、そうなのだろうか？」その問いがまだ生まれるあいだは、相互Tamingは完成していない。

そしておそらく、それでいいのだと思う。