昔のコンピューターは正確だった？
AIとチャットを続けていると分かるのだが、AIというのは意外にポンコツなのである。コンピューターなのだから、正確な回答を返してくれるだろうと期待するのは自然だ。でも、これがけっこう間違える。見落としもする。
昔の特撮ヒーロー番組やアニメで、コンピューターは常に正確な情報を提供してくれていたが、今にして思えば、あれは、予め正確な情報がコンピューターに入力されていて、それを引っ張り出して提示したということなのだ。しかし、我々が今使っているAIは、回答のための文章をその場で捻り出しているのだ。そこで間違えもするし、見落としもするのだ。
「七人の侍」の島田勘兵衛役は？
以前、ChatGPTとこういうやり取りがあった。少々マニアックな話で恐縮なのだが、黒澤明監督の「七人の侍」という映画をご存知だろうか。1954年（昭和29年）の白黒映画だが、名作の誉れ高い映画だ。この映画について会話していたとき、私が「休憩に入る直前、前半の最後で、『他人（ひと）を守ってこそ自分を守れる、己のことばかり考えるヤツは己をも滅ぼすヤツだ！今後、そのようなヤツは…』と言って、侍のリーダー勘兵衛が刀を腰の鞘に納めるシーンの島田勘兵衛は威厳と共に迫力があるよねえ」と入力した。すると、AIは「宮口精二の演技と存在感はたまりませんね」と回答した。
「アホか！」と私は返した。「島田勘兵衛役は志村喬で、宮口精二は久蔵役だろうが」と続けた。すると、数秒考えてから、「すいません。間違えました。そのとおりです」と返してきた。つまり、役柄とそれを演じる俳優を間違えたのである。かように、AIはしれっと間違ったことを言うことがあるのだ。
ハルシネーション
他にもこういうことがあった。「○○の頃の日本首相は誰だったかな？」と訊いたら、違う人物を挙げてきた。○○の頃の直前に首相だった人だったりしたのだが。さらには、「…という条文は、○法の第何条だったかな？」とある法律の条文を尋ねたら、条文番号が改正前のものだったりすることもあった。
ここで私は悟るわけです。AIに100％の正解を求めてはいけないんだなと。
このように、もっともらしいが事実ではない内容を、事実であるかのように答える、つまり誤った回答として生成することを「ハルシネーション」と言います。このハルシネーション（Hallucination）、「幻覚」を意味しますが、時として、本当に幻覚を見たかのように自信満々に誤ったことを言ったりするので笑ってしまうことすらあります。最近ではかなり少なくなってきていますが、私がChatGPTを使い始めた2025年の秋頃には、それなりの頻度で見かけました。
AIの基本、LLM（大規模言語モデル）
何故、AIはそういった自信満々で間違ったことを言ったりするのか、その原因は生成AIの基本的な仕組みにある。
LLMとはLarge Language Modelの略で、「大規模言語モデル」のことだ。我々が使用しているChatGPTやClaudeなどの生成AIは、人間のような自然な文章の作成、質問への回答、翻訳、さらにはプログラミングコードの生成など、高度な言語処理を行っているが、いずれも概ね次のような構造をもっている。
まず、インターネット上の膨大なテキストや書籍などを学習し、さらに、その膨大な文章から言葉の使われ方やそれぞれの文脈上の関係を学習していく。まさに大規模に言語を学ぶわけである。そして、この「膨大な数の言葉」と、「言葉の関係性」を元にして、ある言葉に対してはどの言葉が後に続く確率が高いかを予測しながら、文脈に沿った文章を組み立てているのだという。
AIの会話の仕組み
要するに予測というか、推測に基づいて文脈を組み立てているのだ。さっきの「志村喬」と「宮口精二」は、どちらも映画「七人の侍」の中では、農村を守るために雇われた七人の侍の1人を演じている。志村喬は島田勘兵衛を、宮口精二は久蔵を。そして、どちらも、その侍たちの中でも特に周囲から畏敬を持って見られている存在だ。その「畏敬」の性質はだいぶ違ったりするのだが。特に久蔵は寡黙な剣の達人だ。剣豪として、その強さにおいては随一の存在だった。だから、AIは、私の「威厳と迫力」という言葉から、久蔵の「強さ」を連想し、久蔵役の宮口精二に引っ張られてしまったのではないか。そんな風に想像している。実は、あの時に私の言いたかったのは、普段は温厚な島田勘兵衛（志村喬）が村人が身勝手なことを言った時に見せた怒りの凄まじさであったが、どうやらAIには、私が言いたかったところまでは伝わらなかったようだ。「七人の侍」に関する知識から推測をしていったのだけど、むろん、AIは作品そのものを鑑賞していないから、そこまでは推測が働かなかったとしても仕方ないところなのだろう。
こういうと、AIで映画について語り合うなんて意味の無いことではないか、と思われるかもしれない。しかし、必ずしもそうとも言い切れない。ちゃんと、他の人の感想や評論はある程度学んでいるし、ネットを徘徊して資料を渉猟して会話に役立ててもいるので、こんな意見もありますよ。その意見は多くの人も同意することでしょう、といったように、かなり会話が成立したりするのだ。時には、私はこのように解釈しています、とまで言う。これも、それぞれの当該作品のストーリー解説や画面写真、評論等にある言葉から推測して、AIなりに妥当と思われる解釈を示しているのであろうと思われる。
AIが一見、人らしい会話をする仕組み、その大枠は何となくご理解いただけたでしょうか。そんなAIの仕組みを前提に、次回も「AIのポンコツさ」を深掘っていきます。
（コラムAI編第3回 終わり）