生成AIは、そもそも何をしているのか

生成AIは、文脈を見ながら「次にもっともらしい続き」を出し続ける仕組みです。

この記事でわかること

• 生成AIが「考えている」わけではない理由
• 「知っている」と「もっともらしく続ける」の違い
• この見方がハルシネーションやRAGの理解につながる理由

生成AIは、そもそも何をしているのか

生成AIを使っていると、どこかで一度はこう思います。 「これ、結局何をしているんだろう」 質問すると、ちゃんと返してくる。文章も書く。要約もする。ときにはそれっぽい企画案まで出してくる。 ここまで来ると、つい「考えている」「理解している」という言葉で捉えたくなります。 でも、生成AIをちゃんと理解する最初の一歩は、人間っぽい言葉で見すぎないことです。 生成AIは、少なくとも人間と同じ意味で「考えている」わけではありません。ものすごく乱暴に言うと、「それまでに出てきた情報をもとに、次にもっともらしい続きを出している」のが基本です。 この感覚がつかめると、その先の疑問が理解しやすくなります。なぜハルシネーションが起きるのか、なぜプロンプトで結果が変わるのか、なぜRAGが必要なのか、なぜAgentやMCPの話が出てくるのか。 今回はまず、生成AIはそもそも何をしているのかを、できるだけ平易に整理していきます。

まず、生成AIは「答えを知っている箱」ではない

生成AIを初めて見ると、つい「中に答えが入っていて、それを取り出している」ように見えます。質問すると返ってくる。だから、どこかに正解を持っているように感じる。 でも、少し見方を変えた方が実態に近いです。 生成AIは、質問に対してデータベースから正解を検索して返す仕組みではありません。もっと近いのは、与えられた文脈の続きとして、最も自然そうな言葉を一つずつ並べていく仕組みです。 たとえば、人間でも文章の続きを予想することがあります。「お世話になっております。先日は___」と来たら、「ありがとうございました」とか「お時間をいただき」とか、ある程度続きが想像できます。 生成AIは、これをものすごく大規模に、ものすごく細かくやっています。文章全体を一気に考えているというより、次に来そうな要素を連続で予測し続けている。まずはこのイメージが大事です。

「すごく賢い自動補完」と考えると分かりやすい

生成AIを単純化すると、「超高性能な自動補完」と考えると分かりやすいです。スマホの入力でも、途中まで打つと続きを候補で出してくれます。生成AIは、その延長線上にあります。 ただし違うのは規模です。単語だけでなく文章全体の流れを見る。直前だけでなく広い文脈を見る。言葉だけでなくトーンや形式も踏まえる。指示や条件も加味する。 だから自動補完といっても高度です。でも基本の考え方としては「文脈を見て、次に自然そうなものを出す」から始まっています。 ここを理解すると、生成AIの出力の特徴が見えてきます。それっぽい言い回しが得意なこと、文のトーンを合わせるのが得意なこと、逆に確実な事実確認は苦手なことがあること。これらも、この延長で理解しやすくなります。

だから「知っている」より「もっともらしく続ける」に近い

ここが、最初にいちばん誤解しやすいところかもしれません。 生成AIは、何かを返してきたとき、その内容を「知っている」ように見えます。でも仕組みとしては、知識を人間のように取り出しているというより、文脈に対してもっともらしい出力を作っていると捉えた方が近いです。 もちろん、学習の過程で膨大な文章パターンや知識表現を取り込んでいます。結果として「知っているように見える」ことは多い。 でも、この見え方に引っ張られすぎると、次の誤解が起きます。「AIがそう言ってるなら正しいのでは」「流暢に答えているから理解しているのでは」。 生成AIは、自然な文章を作ることと、内容が正しいことが必ずしも一致しません。これは欠点というより、仕組み上自然なことです。**「もっともらしさ」が強いからこそ、ズレたときもそれっぽく見える。**この感覚を持っておくと、あとで出てくるハルシネーションの話も分かりやすくなります。

では、なぜあんなに長い文章まで作れるのか

「次を予測しているだけで、なんであんなに長い文章や整理された回答が作れるの？」 これはすごく自然な疑問です。 ポイントは、生成AIが一文字ずつ適当に出しているわけではないことです。いま何について話しているか、それまでにどんな指示が出ているか、どんな形式が求められているか、どんなトーンで書くべきか。これらを踏まえながら、次を出しています。 つまり、バラバラの単語を当てずっぽうで出しているのではなく、文脈全体を踏まえたうえで、続きを少しずつ組み立てているのです。

だから、箇条書きで返せる。丁寧なメール文にできる。要約らしい形に寄せられる。比較表っぽい構造を作れる。

「全体を理解してから完璧な文章を一気に出している」わけではありません。文脈を踏まえて、次に自然な出力を連続で作っているうちに、全体としてまとまって見える。この感覚が大事です。

生成AIと類似の技術は何が違うのか

よくある疑問

生成AIは「考えて」答えているのではないのですか？

人間と同じ意味では「考えて」いません。文脈を見て、次にもっともらしい続きを予測して出力しています。その予測が非常に高度なため「考えているように見える」のが実態です。

生成AIの出力はそのまま信頼していいのですか？

自然な文章が出ることと、内容が正しいことは別です。形づくりには強いが、事実確認は人が行う前提で使うのが安全です。

なぜ長い文章や整理された回答まで作れるのですか？

一文字ずつ適当に出しているのではなく、文脈全体を踏まえて次を組み立てているためです。指示や形式も加味するので、箇条書きや表などの構造も作れます。

まとめ

この記事のポイントを3つにまとめます。

• 生成AIは「中に正解がある箱」ではなく、文脈から「次にもっともらしい続き」を組み立てる仕組み
• 「知っている」より「もっともらしく続ける」に近いので、自然な文章が出ても正確性は別で確認が必要
• この見方を持つと、ハルシネーション・プロンプト・RAGなどの理解が一気につながる

次回は「トークンとは何か」をやります。

ここまでで、生成AIが「次にもっともらしいものを出す仕組み」だという感覚は少しつかめたと思います。では、その「次に出す」を支えている単位は何なのか。AIは文章をどう区切って見ているのか。次はそこをやります。