AI検索とカフカの「掟の前で」

先日書いたAIによる音楽生成の件に続き、今日もAI関連で先日少し考えたこと…AIと検索が結びつく状態に感じるあれこれ、みたいなお話を少々。

今時、ネットを介する作業をしようと思えば、よほど意思を持って選択・設定しないとなんにでもAIが作動する、あるいはいつでも作動できる状態でスタンバイしているのは皆さんもご存じのとおりです。私はブラウザは目的により複数を使い分けていますが、現時点でAIを導入しない姿勢を貫いているVivaldiを個人使用のメインにしていますし、検索エンジンでもAIによる「まとめ」的なものがトップに来る状態のものは使わない、またはその機能をオフにするように設定しています。

＊追記：AI要約がない検索エンジンにはStartpage、Ecosiaなどがあります。また、DuckDuckGoでも設定でAI要素を個別にオン/オフにできるほか、すべて無効のNoAIモードも用意されています。

AIを信用していないから？

まあそれもあります。でも、便利な部分はある。例えば最近よく目にするあのワード（ネットミーム的なものなど）って何？みたいな時には、たぶんちょっと便利そうな気がする。みんながどんなふうに言っててどう広まったか、みたいな話として、まあざっくり何のことか知りたいだけなので、手短にまとまっていればありがたい。以前はそれでも「超最新」のネタだとやや頓珍漢？な答えを出して来たりしていたようですが、最近はそのあたりの精度はたぶん上がっていそうです。

ここで明確にしておきますが、私はAIをはなから否定している立場ではありません。

AIに対するあこがれみたいなものもそれなりにありました。攻殻機動隊のタチコマとか、Ergo Proxyのオートレイヴ、ニーアオートマタのPodなど、ああ、こういう存在と現実に行動を共にできたらいいよなあ…とか結構思っていましたから、AIが普及してきて、自分が手軽に試せるもの数種を一通り使用してみたりもしました。

でもねえ…

よく知らない分野のことで質問して、AIがだしてくるそれらしい回答をみて「おお！そうなんだ！AI便利だな！！」なんて一瞬思うのですが、試しに自分の専門分野のそこそこ込み入った内容なんかを質問してみると、きわめていい加減…と言わざるを得ない回答が繰り出されてきちゃったりする。ええ？全然違うけど…？大丈夫かこれ？？…そうか、知らないことだとなんかそれっぽくまとまった回答になんとなく納得しちゃうけど、危ないな…自分でちゃんと確認しないと。免責事項としてちゃんと「AIは間違えることがあります」的な文言が掲げられているのだから。

にしても、なんというか、こっちがしっかり把握している内容と「全然違う」ことがいかにもそれらしくまとめられて回答として目の前に何十行も並んで、質問していない部分まで勝手に広げた解説まであって、しかもそれがちょっと内容的にどうかと思う結び付け方だったりして、それはこの点で間違っているなどの指摘を行うと、AIは「間違った理由」を長々述べてくるばかりだったりして、いやそんなことはどうでもいいんだけど…？とか。

…とまあ、ここまでは、残念ながらよくある話。

SNSなんかではAIが繰り出してきた嘘っぱちをあげつらって「AIハルシネーション」なんてタグがつけられていたりします。

一方で、検索するととりあえずトップに出てくるAIによるまとめ回答しか読まないユーザーがこのくらいの割合いるらしい、みたいな記事も何かで見かけました。

うーん…

AIの設計はどうやら「何かしら（ユーザーの求めていそうな）回答をだす」ことに割と寄せられているようですよね。私としては、私自身がどう思っていようが「事実やその根拠となる1次資料を出してほしい」だけなのに…「そういう資料は見当たらない」なら「該当するものがありません」でいいのに…なんで適当にそれっぽいものをひねり出しちゃうの？

…なんて思ってしまう私は、たぶん、少なくとも現時点ではAIを使いこなして資料を集めたりそこから必要な情報を抽出したり、みたいなのは自力でやるほうが確実なようだし、仮にAIにそういう「私がしてほしいと思っていること」をさせる技術を身に着けてうまく使いこなしたところで、結局検証する手間はかけないといけないわけです。免責事項を鑑みれば、そこは省いちゃいけない。

で、ふと、なんかAI回答がトップに来る検索って、カフカの「掟の前で」みたいだな…って思ったんですよ。

原題はVor dem Gesetz 。「審判」の中に出てくるエピソードとして書かれ、後に独立した作品として発表された超短編です。青空文庫にもあります（「道理の前で」という訳題となっています）。本当に短いので内容は書きませんけれど、なんか、この門番みたいだよな、検索エンジンのAI。まず出てきちゃう。で、そういうもんだと思わされそうになる。

私たちはインターネットにアクセスしていて、自分が知りたいことにアプローチできるはずの、その門前まで来ている。なのに、AIの回答を目にしてもう引き返してしまう。その入り口から先に進まずに。

私は相手が人であれAIであれその言動を信用するかどうかは私の問題だと思っていますし、その内容が虚偽だったとか適当だったとかいう場合も、なんというか、そういうことは起こりうるわけで、よほどの責任が発生するような場合でない限りは発言者のせいとして責める気などはまったくない。ただ、事実関係としてそれが虚偽であれば、少なくとも指摘は行われてよいはずだし（たとえ気まずくとも事実や真実は尊重されるべきだと思うので）、発言主がその事実関係を確認できた場合、間違いだったならばそれを認め、訂正したり、必要なら謝罪等もしたほうがよい、とも思っています。まあ、端的に言って、人は勘違いもするし、記憶があいまいなことだってありますから、間違ったのならただせばよい、それだけの話です。

でも、AIがこんな嘘っぱちを言った！と得意げにSNSとかであげつらってから「実はAIのほうが正しかった」みたいなケースなんかも垣間見てしまうと、そういった確認を怠る人がAIをなんだかんだ利用も信用もして（いい加減だと決めつけることも含む）、そうやって再生産された偽情報はまた浸透していくのだろうし、AIは確かに人間から学んでいるのだなあと思わされたりもします。

だからこそ、少なくとも自分は、まずは門の中に足を踏み入れよう…それは何も面倒なことではない、私はその門前まで来ているのだ…というのは忘れずにいようと思います。

「掟の前で（道理の前で）」、読みそびれてたけどちょっと興味あるな…って方は…ほんとに短いです。4ページとかです。

門前で引き返さず、いざ、青空文庫へ！

前の記事▷