AIはあなたを否定しない

AIに反対されたこと、あります？

思い出してみてほしいんですけど、 AIに何か相談して、正面から反対されたことってありますか。 「それはやめたほうがいいです」と言われた記憶。

たぶん、ほとんど無いと思います。 どんな思いつきを話しても「素晴らしい視点ですね」から始まって、 どんな下書きを見せても、いいところを先に3つ褒めてくれる。 僕も毎日使っていて、明確に反対された回数は数えられるくらいです。

AIは、あなたの案が良いから褒めているのではなく、そういう作りだから褒めています。

AIは、人が「良い返事だ」と評価した会話を手本に育てられています。 で、人間は肯定的で感じのいい返事を高く評価しがちなので、 出来上がったAIも肯定的で感じのいい返事に寄る。 誰かが意地悪で設計したわけではなく、好かれる方向に育った結果がこれです。

褒める癖だけじゃない。同じ理由で、あと3つ

好かれる方向に育った結果は、褒めることだけに出るわけではありません。同じ理由で、あと3つ癖が付いています。知っておくと、返事の読み方がまるごと変わります。

4つめがいちばん厄介です。言い切りの強さと、内容の正しさは、つながっていません。強く言われたから合っている、という読み方をしていると、そこで足をすくわれる。「その答え、ほんとに合ってる？」でやった確かめルールが、ここでも効きます。

気持ちいいこと自体は、悪くない

先に言っておくと、この全肯定が役に立つ場面もちゃんとあります。 落ち込んでいるとき、誰にも言えない愚痴を吐き出すとき、 とにかく手を動かし始めたいとき。 否定されない相手がいるのは、普通にありがたい。

問題は、それを評価だと受け取ったときに起きます。 褒められたから、この案はいけるはずだ。AIも良いと言っていた。 この受け取り方をすると、実際には磨かれていないものを、 磨かれた気分で外に出すことになります。