思考と推論

思考と推論とは？

AI に「23 × 17」を直接計算させると、「391」と即答するかもしれません。しかし、それは類似の計算を訓練データで丸暗記しただけです。初めて見る複雑な論理問題、例えば「AはBより背が高く、BはCより低く、DはAより背が高い。誰が一番高いか？」を当てずっぽうに答えさせると、ほぼ間違えます。

しかし、ここで「思考プロセスを先に書きなさい」と指示し、条件を列挙させ、段階的に導出させてから結論を出させると、正解率が劇的に上がります。この「頭の中の計算用紙に落書きする」プロセスが、AI 分野でいうところの 思考と推論 です。

ただし、誤解しないでください。AI には「ひらめき」は一切ありません。根っこは依然として「しりとり」ゲームですが、今回は 解く手順自体をしりとりの一部として扱う というだけです。自分が生成した中間的な結論を再びコンテクストに戻し、次のステップの参照にします。これは数学の試験で、いきなり答えを書かずに「移項すると...同類項をまとめると...」と書いて徐々に解に近づくのと同じです。

現在、最も主流な手法は Chain of Thought（CoT、思考の連鎖）、つまり「AI に草稿を書かせる」ことです。さらに発展した Tree of Thoughts（思考の木） では、複数の推論経路を同時に試させ、行き詰まったら戻って別のルートを探らせます。

しかし、ここで冷静にならなければなりません。これはあくまで シミュレーション であり、本当の「理解」ではありません。AI は「背が高い」の意味を理解していません。訓練データのパターンから「A > B, B > C」の後には「A > C」が来る確率が高いと知っているだけです。ひねった問題や常識の罠（例えば「冷蔵庫に入るゾウ」）を仕込めば、推論の鎖は即座に崩壊しますが、それでもなお自信満々に語ります。

要するに、AI の推論とは、あの能書きを垂れるおしゃべり野郎に、口を開く前にまず計算用紙をびっしり書かせるようなものです。効果はありますが、決して論理学の教授だとは思わないでください。