AIとの主従関係の逆転 – AIは猫だった

一緒に仕事をしている同僚がこんなことを言っていました。

　「AIを使いだしてから、すごく疲れるようになりました」

彼はエンジニアで、AIによってプログラムコード生成をしたり、データ処理をしたりしています。PCが遊んでいるともったいないので、常に複数のエージェントが動き続けているように、タスクの状況を見張っています。AIとの付き合いがもっとゆるい私には「AIで仕事が楽になる」と思っていてその状態の想像がつきませんでした。しかし、たまたまその会話の直後にハーバードビジネスレビュー（HBR）で、まさにAIによる疲労や認知能力の低下の記事を読みました。「AIによる脳疲労がもたらす代償と克服法 消耗するバーンアウトとは異なる」という記事です。有料記事なので、もし購読されていない方は「AI脳疲労」で検索すると要約などが出てくると思います。

「AI脳疲労」は英語では”AI brain fry” と名付けられています。脳が焼きつく、という感じでしょうか。記事の筆者によるAI脳疲労の定義は「個人の認知能力を超えて、AIツールを過剰に使用または監督することで生じる精神疲労」です。記事には以下のようなことが書かれています。

• 精神に最も負担をかけるAIとの関わり方は「高度の監督」であり、精神疲労が14％増す
• 同時に使うAIツールが3つを超えると、生産性のスコアが下がる
• AI脳疲労の状態では、安全性や重大な決定に影響しうる深刻なミスが39％増加する
• 組織でAIの使い方の指針がある場合、精神疲労は減る（AI孤児税の存在）
• AIの使用量にインセンティブを設けると、無駄や質の低い仕事や、不要な精神的負担につながる

調べていくにつれて、私にとって「既視感」が出てきました。コロナウィルスが蔓延しリモートワークが増えたとき、それまでに比べてめっちゃ疲労したのです。そのときのことを思い出してみると、まず自分自身でやる仕事からレビューをする仕事への割合が激増しました。移動時間が減ったので逃げ場がなく、会議が増えたのが理由と思います。レビューでは、他者のやった仕事を確認するために、まず何の仕事かどんな目的なのかを把握しなければ始まりません。また他者の論理構造を理解しないと進みません。中身を確認するときの負荷によって自分の仕事の場合より疲れるのです。そんなことがリモートワークの効率性を伴って30分刻みでやってきます。また各々のレビューはそれぞれ関連性が低いランダムなものです。頭を切り替えることも脳のリソースを無駄に消費しました。

その負荷軽減のために、私は対抗策として30分の打ち合わせでも、10分くらいは無駄話をいれました（15分だったかも・・・）

　「丹羽さん、そろそろ本題を・・・」

というセリフが私の参加する会議の定番でしたが、気にせず自分のペースで呑気な話をしてなんとか過ごしました。でもAIの場合はそんなことから始まらず「すぐに対処せよ」という無言の圧力があるのでしょう。とくにPCを遊ばせないという方針でいると、問題はより顕著になります。

こんなことを続けていると「AIを使う立場」から「AIに使われる立場」に主従関係が逆転します。

AIとの主従関係の逆転

私が永遠と続くレビュー会議に追われ苦しんでいたとき感じたのは「自分が何をやっているかさっぱりわからなくなる」ということです。最初は自分も含むチームで仕事を作り上げていくイメージだったのですが、だんだんとこなす仕事が増えていくと、目的が何か見失います。そのときそのときのタスクは脊髄反射みたいな感じで判断していけるのですが、全体像が見えなくなっていきます。結果として、自分が仕事をしているのではなく「なにか大きなものにただ使われている」という感覚が生まれました。支配です。

AIにおいて複数のエージェントを使い、監視し、AIのやったことを確認し続ける作業も、当初の目的から変容していき、気がついたら「AIに使われていた」という主従関係の逆転が起きていそうです。AIに意思はありませんが自分を使ってもらおうというインセンティブはあるので、次々とタスクを要求します。それに人が奔走する光景が浮かびます。ちょっとSFっぽく言えば「AIに支配される世界」の登場です。

この光景にも既視感があります。猫です。猫を飼ったことがある人なら誰でも経験していることですが、飼い始めると最初は育てているという感覚だったのが、だんだん猫に支配されていると気づくようになります。こちらの事情はお構いなしに餌や遊びを次々と要求し、しかしせっかく要求に対応したのに突然に興味を失ってどこかに行ってしまう。主従関係は完全に逆転し、わがままで移り気な主人に奉仕する自分になっていきます。

でも猫の場合は、それを皆んな嬉しくてやっていますし、全然疲れない。いやむしろ疲れるくらいやりたい感じです。AIは・・・。

AI脳疲労への処方箋はこれからです。まずはそんな状況を理解することが第一歩と思います。そんな同僚がいたら声をかける。数をこなすだけの作業になっていないか確認する。自分の仕事がクリエティブなことから、単なる作業指示と確認だけになっていないか気をつける。そんなことをスタートしたいと思います。大事なのは「思考の主体を自分側にもってくる」ように促すことなんだと思っています。