【AIエージェント基礎】LLMの推論

AIエージェントが自律的に問題を解決する上で欠かせないのが、LLMの推論能力（Reasoning）です。複雑な論理パズルを解くための「思考の連鎖（CoT）」の仕組みや、出力をコントロールする「Temperature」、そして最大の課題である「ハルシネーション」について勉強した内容をまとめました。

今回学習する用語の要約リスト

  • 推論能力：与えられた情報を組み合わせ、論理的なステップを踏んで未知の問題の解決や判断を行う能力
  • Chain-of-Thought（CoT / 思考の連鎖）：答えを直接出させるのではなく、問題を解くための「途中の思考プロセス」をステップバイステップで書き出させることで、正解率を大幅に向上させるプロンプト手法
  • 推論モデル：複雑な論理思考や数学、プログラミング問題を解くために、ユーザーに応答を返す前の段階で内部的に多くの計算資源（思考時間）を使うよう特別に設計されたモデル（OpenAIのo1/o3シリーズなど）
  • Temperature（温度）：LLMが次に生成するトークンの「確率的なばらつき（ランダム性）」を調整するパラメータ
  • ハルシネーション：LLMが事実とは異なる情報や、文脈に全く合わない内容を、まるで本当のことのようにもっともらしく生成してしまう現象

各用語のメタファー（日常の例え話）

LLMの推論にまつわるパラメータや仕組みを、直感的に理解するための日常的な例え話に置き換えて整理しました。

推論能力：知識の詰め込みを超えた「地頭の良さ（応用力）」

ただ「織田信長が生まれた年は？」という暗記クイズに答えるだけでなく、「AさんとBさんの予定、さらに会議室の空き状況を考慮して、最適な打ち合わせ時間を決定して」という、複数の条件を整理して答えを導き出す知的なパワーのことです。

Chain-of-Thought（CoT）：「計算用紙に途中式をしっかり書く」こと

難しい数学の文章題を解くとき、頭の中だけで一発で答えを出そうとすると（Zero-shot）、大人でもケアレスミスをしますよね。でも、「まず1点目は……、次に2点目は……」と、計算用紙に一歩ずつステップを書き出しながら解くとミスが激減します。LLMにこの「途中式」をわざと出力させて、自分の書いた途中のロジックを自分で見ながら次の答えを考えさせる仕組みです。

推論モデル：回答ボタンを押す前にじっくり腕組みして考える「熟考型の天才」

普通のLLMが、聞かれた瞬間に口から出任せのスピードで喋り出す「即答タイプ」だとすれば、推論モデルは「……うーん」と裏で何十秒もじっくり考えて、頭の中で完璧な思考ルート（CoT）を組み立ててから、淀みなくパーフェクトな答えを返してくれる、一歩進んだ賢いAIです。

Temperature：AIの「お酒の酔っぱらい度（クリエイティビティのネジ）」

温度を0（シラフ）にすると、AIは常に最も確率が高いお堅い言葉しか選ばなくなります（毎回同じカチッとした回答）。逆に、温度を1以上（酔っぱらい）にすると、普段は選ばないような珍しい言葉や面白いアイデアを思いつきやすくなります。小説の執筆なら高め、プログラミングや計算なら0にするのが鉄則です。

ハルシネーション：記憶がうろ覚えなのに、自信満々で嘘をつく「知ったかぶり」

AIは知らない歴史の出来事や人物について聞かれたとき、「わかりません」と言うのが苦手です。次トークン予測の仕組み上、「その質問の次に来そうな、もっともらしい文章」を自動で作ってしまうため、本人は悪気なく100%創作のホラ話（架空の事実）を真顔で語り始めてしまいます。

各用語の相互関係図

推論モデルやプロンプト手法が、どのようにハルシネーションを抑え、高い推論能力を発揮するかのマップです。

【複雑なロジック問題の入力】
　│
　├─［対策1］プロンプトで「一歩ずつ考えて」と指示する ──＞ Chain-of-Thought (CoT)
　├─［対策2］最初から裏でじっくり考えるモデルを使う ──＞ 推論モデル
　│
　▼（モデルの内部でロジックが組み立てられる）
【LLMの推論能力がフル稼働】
　│
　▼（出力時のコントロール）
 Temperature（温度）設定
　├── 温度を低くする（0に近づける） ──＞ 確実で論理的な回答へ（バグ取り・計算向き）
　└── 温度を高くする（1に近づける） ──＞ 独創的でランダムな回答へ（小説・アイデア向き）
　│
　▼（注意すべきリスク）
 ハルシネーション（もっともらしい嘘）
　└── ※CoTの導入や、温度を低く設定することで、このリスクを大幅に下げることが可能

各用語の解説

推論能力 (Reasoning Capability)

LLMが単なる事実情報の検索（記憶の引き出し）を超えて、文脈に含まれる複数の前提条件やルールを組み合わせ、論理的に正しい結論や解法を導き出す能力です。

AIエージェントがタスクを自律的に分解し、どのツールをどの順番で実行すべきかを「判断」する際のベースとなる能力であり、モデルのパラメータ数や学習データの質に大きく依存します。

Chain-of-Thought (CoT / 思考の連鎖)

2022年にGoogleの論文等で提唱された、LLMの論理推論性能を飛躍的に高めるプロンプティング手法です。

プロンプトに「一歩ずつ段階的に考えてください（Let’s think step by step）」という指示を加えたり、Few-shotの例示の中に思考のプロセスを含めたりします。これにより、モデルは最終的な答えを導く前に、中間的な推論ステップを自らトークンとして出力し、その出力を次の文脈（コンテキスト）として再利用することで、複雑なマルチステップの論理崩壊を防ぎます。

推論モデル (Reasoning Models)

OpenAIのo1やo3に代表される、複雑な推論タスクを解くために最適化された最新世代のLLMクラスです。

従来のモデル（GPT-4oなど）が入力に対して即座に出力トークンを生成し始めるのに対し、推論モデルはユーザーに最終回答を返す前に、内部で自律的に長い「思考の連鎖（Internal CoT）」を走らせます。これにより、強化学習によって磨かれた自己検証や思考の修正を行い、難解な数学、競技プログラミング、科学的分析において極めて高い正解率を誇ります。

Temperature (温度パラメータ)

LLMが出力トークンを決定する際、Softmax関数によって計算された各トークンの「確率分布の鋭さ」を調整するサンプリングのハイパーパラメータです。

温度が低い（0に近い）ほど、確率の最も高いトップのトークンが厳格に選ばれるため、出力は「決定的」かつお堅いものになり、ハルシネーションを減らしたいプログラム連携や計算に向きます。逆に温度が高い（1に近づける、あるいは超える）ほど、確率の低いトークンも選ばれやすくなり、出力の「多様性」や「創造性」が向上します。

ハルシネーション (Hallucination)

LLMが学習データの不足や、次トークン予測の確率的な性質により、事実とは異なる内容、あるいは入力されたコンテキストと矛盾する内容を、言語的に極めて流暢かつ説得力のあるトーンで生成してしまう現象です。

AIエージェント開発においては、ハルシネーションによって存在しないプログラムのAPIを実行しようとするなど、システム崩壊の原因となるため、RAGの導入やCoTによる思考の固定、構造化出力による制御などで発生率を最小限に抑える設計が必須です。

各用語の4択問題と解答

推論能力／推論モデルに関する問題

問題

OpenAIのo1などの「推論モデル」が、従来の一般的なLLMと比べて、難解な数学やプログラミング問題で圧倒的に高い正解率を出せる理由は何か？

  • A) 内部のパラメータを、問題が出されるたびにリアルタイムで永久学習（アップデート）しているから
  • B) 回答をユーザーに返す前に、モデルの内部で自律的に長い「思考の連鎖（CoT）」を走らせて熟考しているから
  • C) インターネットの検索エンジンを従来の100倍の速度で巡回しているから
  • D) 答えが間違っていた場合、ユーザーのパソコンのデータを自動で書き換える機能があるから

解答・解説

正解：B) 回答をユーザーに返す前に、モデルの内部で自律的に長い「思考の連鎖（CoT）」を走らせて熟考しているから

【各選択肢の解説】
・A) ：推論時にモデルの内部パラメータ自体が永久に書き換わるわけではないため誤りです。
・B) ：これが推論モデル（Reasoning Models）の最大の特徴です。応答の前に内部的な思考ステップを走らせて自己検証することで、高い論理性を実現しています。これが正解です。
・C) ：検索速度の物理的な向上によるものではないため誤りです。
・D) ：そのような恐ろしいセキュリティ違反の機能は存在しないため誤りです。

Chain-of-Thought（CoT）に関する問題

問題

プロンプトに「一歩ずつ段階的に考えてください」と書き加える「Chain-of-Thought (CoT)」手法によって、LLMの計算や論理パズルの正解率が上がる理由として、最も適切なものはどれか？

  • A) LLMのコンテキストウィンドウの容量が、一時的に2倍に拡大するから
  • B) 途中の思考ステップを自らテキスト（トークン）として出力し、その正しい論理の流れを次の自分の回答のヒントとして利用できるから
  • C) LLMが自動的に「お喋り」を禁止され、出力が最短のJSON形式に固定されるから
  • D) サーバーにかかる電気代が半分に節約されるから

解答・解説

正解：B) 途中の思考ステップを自らテキスト（トークン）として出力し、その正しい論理の流れを次の自分の回答のヒントとして利用できるから

【各選択肢の解説】
・A) ：モデルの物理的な最大容量（ウィンドウサイズ）は変化しないため誤りです。
・B) ：人間が計算用紙に途中式を書くのと同じで、自分で出力した手前の論理ステップを次のトークン予測の文脈（コンテキスト）として利用できるため、論理の破綻を防げます。これが正解です。
・C) ：CoTはむしろ思考プロセスをたくさん「お喋り」させる手法であるため、真逆の説明であり誤りです。
・D) ：むしろ生成するトークン数が増えるため、サーバーの計算量や電気代は増える傾向にあり、誤りです。

Temperature（温度）に関する問題

問題

AIエージェントに「システムのログデータを分析して、エラーの原因を1つに特定して報告させる」というタスクを実行させたい。このとき、出力のブレを無くし、最も安定的で論理的な結果を得るためのTemperature（温度）の設定として最も適切なものはどれか？

  • A) Temperature = 0（または極限まで0に近づける）
  • B) Temperature = 1.0（標準的な会話の自由度にする）
  • C) Temperature = 2.0（最大限の創造性とランダム性を発揮させる）
  • D) Temperature = -1.0（マイナスの値に設定する）

解答・解説

正解：A) Temperature = 0（または極限まで0に近づける）

【各選択肢の解説】
・A) ：ログ分析やエラー特定、計算などのタスクでは、ランダム性を排除し、最も確率の高い確定的な出力を得たいため、温度は0にするのが最適です。これが正解です。
・B) ：標準的な会話には良いですが、エラー原因の特定のような硬いタスクでは出力がブレる原因になるため最適とは言えません。
・C) ：出力が非常にランダムになり、毎回異なる原因をデタラメに報告するようになってしまうため不適切です。
・D) ：Temperatureは通常0以上の値を取るパラメータであり、マイナスの設定はできないため誤りです。

ハルシネーションに関する問題

問題

LLMが引き起こす「ハルシネーション（幻覚）」という現象の正確な説明はどれか？

  • A) サーバーの温度が高くなりすぎて、LLMの応答速度が極端に遅くなる現象
  • B) ユーザーの画面に、AIが生成した奇妙なイラストが勝手にポップアップ表示される現象
  • C) LLMがもっともらしい言葉遣いで、事実とは異なる嘘や架空の情報を自信満々に出力してしまう現象
  • D) 著作権で保護された文章を、一言一句そのままコピーして出力してしまう現象

解答・解説

正解：C) LLMがもっともらしい言葉遣いで、事実とは異なる嘘や架空の情報を自信満々に出力してしまう現象

【各選択肢の解説】
・A) ：ハードウェアの熱暴走や速度低下を指す言葉ではないため誤りです。
・B) ：画面上のUIやイラストのポップアップバグではないため誤りです。
・C) ：もっともらしい嘘を出力してしまうLLMの性質を「ハルシネーション」と呼びます。これが正解です。
・D) ：これはデータ自体の「複製（リーク）」問題であり、ハルシネーションの定義とは異なるため誤りです。

コメント

タイトルとURLをコピーしました