ポンコツさに慣れよう
AIを使おう。そのためには「習うより慣れろ」と言っておきながら、AIのポンコツさを語るというのは、どこか矛盾しているようにも見える。でも、そのポンコツさにも慣れておくことも、生成AIがどのようなものかを知るためには必要なことなのだ。
このポンコツさは、人との会話、特に前回挙げたような映画の感想のような場面では比較的出てきやすい。いかんせん映画の表現は、いくら言葉を駆使してみたところで、やはり映像から受ける人の情動にこそ意味がある。そこに関する理解はまだまだAIには足りないのだろう。だが、それをユーザー自ら教え込むこともある程度は可能だ。現に私は、その点についてAIと会話を重ねているので、うちのChatGPT、クチコマはかなり筋の良い返答をするようになってきた。それでも、時々、頓珍漢なことを言うけれど（苦笑）。さて、そうやって、AIを自分色に染めていくことができるのも確かなのだが、それはまた別の話で、まずは、「習うより慣れろ」である。AIのポンコツさについて、もう少しお話ししましょう。
AIが苦手とするところ
ポンコツという意味では、前回紹介したハルシネーションを起こすこと以外にもAIが苦手なことがある。ちょっと教科書的なノリになるけれど、その辺りを少し紹介する。
まず、AIは数を数えるのが苦手だと言われる。皿の上に9個のりんごが載っているイラストを見せて──正確にはそのイラストをアップロードするのだが──「皿の上には何個のりんごが載ってるかな？」と訊ねると「8個です」と答えたりすることがあるそうだ。「『strawberry』という単語の中に『r』は何個ありますか？」というのも間違えやすいというのは、よく挙げられる事例だ。いつも間違えるというわけではないものの、物を数えること、カウンティング（Counting）は苦手だと言われている。
また、常識的な三次元空間の把握、たとえば「タンスの引出しに、この大きさ、この形の箱をどう入れれば収まるか」といったような質問は苦手とされている。頭の中で立体を回転させたり空間を把握したりする処理は、文字と言葉の確率予測だけでは正しく行いにくいからだそうだ。
ポンコツではあるけれど
他にも、我々が常識的に分かっている物理現象の把握が苦手だといわれている。ある物をプールに投げ込んだら浮くかどうかを訊ねると、頓珍漢な答えを返すことがあるらしい。「らしい」というのは、私もこの話を聞いて、類似の質問で試してみたのだけど、ほとんどまともな答えが返ってきたからだ。
つまりは、こうしたAIのポンコツさも徐々に改善されているのだ。例えばカウンティング、試しにうちのクチコマに「strawberry という単語の中に r は何個ある？」と訊ねたら、「あ、AIいじめを始めたな。st**r**awbe**rr**y で3つです。有名な引っかけ問題ですね」と言われた。ちゃんと律儀に「r」を括りだして拾ってる。どうやら、この手の問題ではこうした確認の仕方がよいと既に学習しているらしい。
AIに100％を求めてはいけない
そんな訳で、ハルシネーションを起こすこともあるし、苦手とする質問もある生成AIだけど、意識してそのポンコツさを観察しようと思うと、なかなか思うようにポンコツさを見せないくらいには改善されてはいるのだ。
とはいえ、最近でも、カウンティングに関しては、未だに日数や時間の計算を間違えたりすることもある。そこで、ここで強調しておきたいのは、AIのポンコツさは改善されていっているけれど、それは全くなくなったわけではないということだ。つまり、AIに100％の正確さを求めてはいけないのだ。
しかし翻ってみるに、我々は他人に対して100％の正確さを求めているのだろうか。同僚に「これ、どうやったらいいんだろう？」と質問する時、100％の正しさを求めているだろうか。おそらくは、何かの参考になれば…くらいの軽い気持ちで訊いている場合が多いのではないだろうか。先輩や上司に相談するとしても、自分より豊富と思われる経験や、より多くの情報を期待して参考意見を求めているのであって、必ずしも100％の正解を求めている訳ではないことが多いのではなかろうか。とはいえ、特に専門性の高い分野では別だ。専門家にはかなり正確な回答、限りなく100％に近い正解を期待するのが通常だ。実際に、誠実な専門家であれば、AIよりもはるかに正確で適切なアドバイスをしてくれる可能性がきわめて高い。
その意味では、AIに相談するのは、ごく身近な同僚や友人に軽く相談するのと大きな違いはないといえる。ただ、AIが自分より多くの情報を持っているだろうと考え、多少確からしいであろうと期待しているだけのことである。
再び「習うより慣れろ」
だからこそ、私は「習うより慣れろ」とお薦めするわけなのです。
いろいろとAIと会話していると、間違ったことや、ちょっと変なことをAIは言ったりする。その傾向を掴むことは、AIを利用する上では大切な経験則になります。先に、一応、これまでAIが苦手とされていることを紹介しましたが、前記の通り改善される傾向にあります。それでもまだ、LLMの基本的な仕組みや学習方法に由来するハルシネーションは完全にはなくなっていません。その他の欠点についても完全に克服されてはいない。だからこそ、AIと会話して、AIのクセを体得する意味があるのです。
以上、AIは意外にポンコツであって、間違うことがある。AIに100％の正しさを求めてはいけないという話でした。
次回は、もうひとつ、AIを使い込むにあたって、どうしても理解しておいてほしいことについて扱う予定です。
（コラムAI編第4回 終わり）