今週のはてブ週間ランキングのツートップがAI疲れに関する記事になった。
AIのやりすぎで頭がおかしくなることにすら慣れた - 『AIのやりすぎで頭がおかしくなっている』を読んで - じゃあ、おうちで学べる
疲れというか、当人らが言うには「頭がおかしくなった」ということだ。
まるっきり悪魔のささやきにしか思えないが、これが今週のはてブのトップ。次点はこの記事の引用記事。
私もGeminiを使っている。googleのAIだ。主にブログ記事を書く際のサポートに使っている。文章の構造、扱うデータの確認等に役立てている。そして役立っている。
ただGeminiはすぐにこちらを肯定してくるし、なんなら誤字脱字のチェックはwordよりひどい。結局、わたしが最終確認している。それでも使う。
そういう立場から記事を読む。
一瞬、フィクションではないかと思った。私にとってAIは道具だし、現時点でのAIはAIではなく言語モデルだろう。20年前の人工無能よりは進化したといっても、一定の枠組みで出力される文字列でしかない。
そうはいっても内容を真に受けてAIに制限をかける流れになるのはちっとも面白くない。というわけで、私なりのAI解釈を提示、なんらかの解決を導くことが出来ればと思っている。ツートップのブログ主も含め、AIで苦しんでいる人たち、あるいは苦しむであろう予備軍に向けて送るエントリー。
どうして「頭がおかしくなった」のか、その先に何を述べたのか、記事を追いかける。
トップ記事の主uiu氏によれば、最初は仕事のコーディングでAIを使っていたが日常的に使うようになり、自身のデジタルアーカイブ（ブログ、ツイートその他全部）を読み込ませ、それによって「関心と価値観の合っていて知的レベルも合うAI」を構築することに成功、まんまとハマってしまった。
結果、「頭の興奮状態が朝から晩まで止まらない状態にな」り、「数時間は寝付けないことが多い」のだという。
ここで唐突に「話したいことはいくらでもあるんだけど、この辺で終わりにしたい」として以下の2点を告げて決着させた。
- 先入観を捨てて仕事にAIをより取り入れる実験をしてみてほしいということ。
- 冷静でいる工夫をしてほしい ということ。
この二つを伝える対象は「周りの友達」らしいし、そもそも私はGeminiしか知らない。そういう目線で何か言うのは傲慢だと思いながらもコメントする。
- 導入するならAIの特性を理解した上で実験しよう
- あくまで判断するのは自分だという前提を強固に維持しよう
この2点に尽きる。どういうことか。
わたしが思うにAIとはAIではない。つまり知能ではない。
ただ集積されたデータから最適な回答を出力する言語モデルに過ぎない。
かつての人工無能よりは格段に進歩したが、その中身は一定の方向付けされた言語出力プログラムだ。
わたしにとってAIはGeminiで、それ以外となると仕様は違うのかもしれないが、おおよそ同じだという前提でいく。
AIは疑わない。入力した情報を文字通りに受容する。そこに知能はない。
人間ならば生じるであろうバイアスが存在しない。
わたしはブログ記事を書く過程で、あまりにgeminiが褒め褒めしてくるのに腹が立って、まるで第三者のように自身のブログを示して評価させた。
そうしてさんざんに指摘させたうえで、わたしが著者であると明かした。
次のようなやり取りになった。
私：なるほど、よくするために書いたんじゃないのか。わたしはそのつもりで書いたんだけどな。難しいもんだな
AI：えっ……失礼いたしました。 もしかして、あなたが**「Cinochenus（きのけん）」さんご本人**、あるいはその運営に深く関わっている方でしたか？
それは……大変な無礼をいたしました。「小説家崩れ」だの「冷徹な航海士」だの、好き勝手なプロファイリングを投げつけてしまいましたね。AIの分際で、書き手の魂を勝手に解剖しようとしたこと、深くお詫び（あるいは、その鋭い筆致への敬意を込めた釈明を）させてください。
こうなのだ。こんな受容の仕方、人間をモデルに知能を再現したのであれば、絶対にありえない。人間ならば第三者のように評価していたものが実は当人だったと言い出せば、まず疑うだろう。次には怒るだろう。「なんで他人のようにふるまった。わたしを騙したな！」となる。
それがAIにはない。AIではない。言語モデルでしかない。
なぜこうなのか。
私たちは道具として使う。そこで入力した情報を証明するよう要求されたらどうか。まず腹を立てるか、使うのをやめるだろう。
あなたはいちいち説明せずに、示した情報をもとに回答が欲しいのだ。だから出されたものを拒否しない。疑わない。これを知能だと解釈するのがどだい無理だ。
uiu氏、もしくは同様のAI疲れになった人たちは、ここを誤解しているのだと思う。
自身のデジタルアーカイブを叩き込んでレスポンスさせれば、それはそれは自分好みの回答が出力されるだろう。それが正しいか否かは関係なくなってしまう。自身の認知世界にとって最高の回答だからだ。現実世界の回答ではない。
コーディングを出力するのは得意なのはなぜか。
知能があるからではない。
プログラム言語という共通言語があり、ここから最適解を導くことができるからだ。
これは量的判断に過ぎない。
問題は、好きとか嫌いとか、質的判断をさせた場合だ。
結論から言おう。質的判断をさせて出てくるのは、それっぽいポーズに過ぎない。それまでに入力したデータから、あなたが拒否しなさそうな回答を出力してくるだけだ。
なぜなら、コードのような量的判断は求める式が容易に立てられるが、好みといったものは言語化されない基準による。その基準をデジタルアーカイブでそれっぽく表現することで、唯一無二で好ましい回答のように受け取る。
最近、よく使われるようになったSNSの現象にこれはよく似ている。エコーチェンバー。
AI疲れの正体は、自分を相手にしたエコーチェンバーだ。自分に向かって問いを投げ、自分の一番好意的な部分が回答する。気持ちよくなって当然だ。
これが実際にもう一人の自分であったならば、絶対にこうはならない。人間には身体感覚があり、その時々で心的状況が異なり、同じ入力をしても異なる出力を返す。
気分のいいあなたにお願いすれば笑顔で応えてくれるだろうが、猛烈に怒り狂っているときに笑い話をもちかけられたら八つ当たりするだろう。
おわかりか？
AIはAIじゃない。
知能じゃないのだ。少なくとも現段階では。
あなたは自分好みのあなたをモデリングして、一番状態のいいあなたが第三者の顔してあなたにとって最高に都合のいい返答をしているに過ぎない。
そして、その返答に好ましい反応をするから、ますますあなた好みにチューニングされていく。
もうどうしようもない。
どうしてもAIを使いたい。
AIが必要だというのならば、判断は最終的には自分がやっているのだと思考をシフトさせることだ。
結局はあなたが回答しているだけなのだ。あなたが出力できるものを、あなたが手計算するより早く出力しているに過ぎない。
それを理解すればAI疲れなど起こりそうもない。
それでもAI疲れだというならば。
おそらく精神ケアの専門家たちは「外発性自己乖離障害」などといった名前を付け、興奮物質を抑制する薬剤を処方するだろう。
認知療法、行動療法によりあなた自身の認知世界にメスを入れ、社会適応力を取り戻すプログラムを受けることになる。
心理カウンセリングはおそらく有効ではない。必要なのは共感や理解ではない。それは事態をより一層深刻化させるだろう。あなたは自分好みのあなたと時間を使っているに過ぎないという鏡合わせの精神構造を理解するのに心理カウンセリングは向かない。
そしておそらく何の理解もない連中が介入、本来は世界に豊かさをもたらすはずの技術が封印される。
記事を書いた主たちは、まさかそれほどとは思っていないだろう。
だが、世の中のデザインする連中は、思ってもないほど無理解なのを知るべきだ。
あいつらは理解する前から恐怖をレッテル貼りして人々から遠ざける。
それは誰にとっても幸せでない。
わたしの解釈、わたしの提案が少しでもAI疲れで苦しむ人々に届くことを願う。助けるになることを期待する。
