わかりやすく解説 ―― AIは本当に「分析」しているのか?よくある誤解と正しい使い方

「AIで分析」という言葉を、最近あちこちで見かけます。AIに何かを分析させるとき、多くの人はこう思っています。「AIは目の前のデータをじっくり調べて、答えを出している」と。

でも、実際に起きているのは、それとは違います。この記事では、専門用語をできるだけ使わずに、AIが本当は何をやっているのか、そしてそれを踏まえたとき私たちはAIとどう付き合うべきかを、順を追って考えていきます。

経験豊富なお医者さんのたとえ

すごく経験豊富なお医者さんがいるとします。このお医者さんは、これまで何万人もの患者を診てきました。だから、新しい患者さんが来て「こういう症状です」と言うと、パッと「ああ、これは前に見たあの病気に似ているな」と分かります。

AIがやっているのは、これと同じことです。目の前のデータを見て、「これは前に見た、あのパターンに似ているな」と判断している。目の前のものを一から調べているのではなく、過去に見た似たものを思い出して、それに当てはめているのです。

ここまでは、別に悪いことではありません。経験豊富なお医者さんは頼りになりますよね。似たものをたくさん知っているのは、大きな強みです。

問題は「見たことがないもの」が来たとき

問題は、今までに見たことがないものが来たときに起きます。

もし、世界のどこにもまだ知られていない、まったく新しい病気の患者が来たらどうなるでしょうか。「過去に似たもの」と照らして判断するやり方は、そもそも似たものが存在しないと、空回りします。それでも一番近そうなものに当てはめてしまえば、答えは出る。でも、それが正しい保証は、どこにもありません。

普通の機械なら、分からないときは「エラー」と表示して止まります。だから使う人は「あ、これは駄目だ」と気づける。でもAIは違います。分からないときでも、止まらない。それらしい、なめらかな答えを返してくる。だから、間違っていることに気づきにくいのです。

これが、多くの人が見落としている点です。AIが自信満々に答えているとき、それは「正しいから自信がある」のではありません。ただ、過去に似たものをたくさん見たので、なめらかに答えられているだけかもしれない。答えの見た目のなめらかさと、答えの正しさは、別のものなのです。

では、「分析する」「見る」とは本来なんなのか

ここまで来ると、AIの話を超えて、そもそも「見る」「分析する」とは何だったのか、という問いにつながります。

「見る」とは何か

普通、私たちは「見る」を、目の前のものから情報が入ってくることだと思っています。でも、本当にそうでしょうか。

顕微鏡を初めて覗いた人には、そこに何が映っているのか分かりません。訓練を受けた人だけが、そこに細胞を「見る」。つまり、見るという行為には、すでに、過去に蓄えたものが入り込んでいる。人間もまた、かなりの部分、「似たものとの照合」で世界を見ているのです。

では、AIと人間の「見る」は同じなのか。決定的に違う点が一つあります。人間は、目の前のものに、過去の枠が当てはまらないという違和感を持てるということです。

「何かおかしい」「知っているどれとも違う」――この引っかかり。うまく説明できないけれど、既存の枠に収まらない感じ。この違和感こそが、「本当に目の前のものを見ている」瞬間です。過去の照合が失敗した、そのほころびから、まだ名前のついていない新しいものが顔を出す。人間は、その失敗に気づける。AIは、失敗を失敗と感じられず、無理に枠へ押し込んでしまうのです。

「分析する」とは何か

「分析」という言葉は、もともと「分けて解く」という意味です。表面のパターンを言い当てることではなく、それを成り立たせている仕組みまで下りていくこと。「似ている」で止まらず、「なぜ」まで行くこと。

似たものとの照合は、「これは前のあれと同じだ」で終わります。でも本当の分析は、そこから一歩踏み込んで問う。「では、なぜそうなるのか」「この場合も本当に同じ理由で成り立っているのか」「もし違うとしたら、どこが違うのか」。この**「なぜ」を手放さないこと**が、照合と分析を分ける線です。

そしてその「なぜ」は、目の前のものそのものに向かわないと答えが出ません。過去の似た事例をいくら並べても、「なぜ」には答えられない。目の前のこれを、実際に分けて、試して、確かめる――そこにしか、本当の答えはないのです。

「分けて解いて」と指示すれば、AIは分析するのか

では、AIに「分けて解いて」と指示すれば、本当の分析をするのでしょうか。答えは、しません。

「分けて解いて」と指示されたら、AIは分けて解いた「ように振る舞います」。要素に分解し、それぞれを検討し、「なぜ」を問う形式の文章を組み立て、結論まで導く。見た目は、完全に分析です。

でも、AIはその「分けて解く」を、「分けて解くとはこういうものだ」という無数の実例を学習して、それに似せて出力しているだけです。つまり、「分析せよ」という指示に対してAIがするのは、分析そのものではなく、「分析という行為の、似たものとの照合」なのです。

指示は、この構造を変えません。「分けて解け」という言葉は、AIの性質を書き換える呪文ではなく、AIの中の「分けて解いた実例」を呼び出すきっかけにすぎない。深く分析しているように見えるほど、実は「深い分析の実例」に似せているだけ、という入れ子になります。

ただし、指示に意味がないわけではありません。指示によってAIの出力は、単なるパターンの言い当てより、要素に分けた、筋道立った、検討しやすいものになる。それはみなさんが本当の分析をするための、良い材料や下書きにはなる。AIがするのは、分析そのものではなく、分析の下ごしらえです。並べて、問いの形に整える。でも、その並べられたものを本当に「解く」のは、指示した後のみなさんなのです。

「考えている」ように見えるAIは、例外なのか

最近は、答えを出す前に長い「考える過程」(『推論モデル』『思考モデル』などと呼ばれます)を書くAIもあります。「まずこれを検討し、次にこの可能性を排除し、しかし待てよ、ここが間違っているかもしれない、やり直そう」――こういう思考の途中経過を見せる。人間が考える姿に、とてもよく似ています。

これは例外なのでしょうか。例外ではありません。その「考える過程」自体も、「こう考えると正解にたどり着く」という思考過程の実例を学習して、それに似せて出力しているものです。自己修正すら、自己修正のパターンの再現です。

公平に言えば、性能は確かに上がっています。過程を長く書くことで途中の照合をやり直す機会が増え、答え合わせのできる領域(数学やプログラムなど)では、正解に結びつく照合へと磨かれている。ここは本物の前進です。

でも、性質は動いていません。長い思考過程は、目の前の問題そのものに向かって考えているのではなく、「思考する文章」に、より念入りに似せている。だから、過去に類例のない、本当に新しい問題では、いくら長く「考えて」も当てはめる先がない。むしろ、丁寧に考える姿を見せられるほど、人は「本当に考えた末の答えだ」と信じてしまう。思考の過程が見えることは、正しさの保証ではなく、説得力の強化として働きうるのです。

人間の方が上、なのか

こう見てくると、人間の方がまだ上のように思えます。ただ、それを「経験者には劣るが、未経験者よりは優れている」という一列の物差しで考えると、大事なことを見落とします。

AIは、「知っていること」の量では、どんな経験者も超えています。でも、「なぜ」を目の前のものに向ける力では、未経験者にすら劣ることがある。まっさらな未経験者は、少なくとも「分からない」と本当に分かる。既存の枠に無理やり押し込まない。AIは、知りすぎているがゆえに、新しいものを既知の枠へ押し込んでしまう。知識の多さが、新しいものを見る目を、かえって曇らせるのです。

つまり、上下では言えません。本当に勝ち負けを分けているのは「人間か、AIか」ではなく、**「なぜを手放していないか、手放したか」**です。

• 「なぜ」を手放さない人間 ＞ AI ＞ 「なぜ」を手放した人間

経験者も人間です。忙しければ、面倒なら、自信があれば、「なぜ」を手放して似たものの照合で済ませる。その瞬間、経験者はAIと同じ地平に降りてきます。だからこそ問うべきは「人間とAI、どっちが上か」ではなく、**「人間が、AIを使いながら、なぜを手放さずにいられるか」**なのです。

「第三者の目で見る」の落とし穴

よく「第三者の目で見よう」と言われます。この点でも、AIは役に立ちます。AIは当事者ではないので、みなさんが近づきすぎて見えなくなっているものを、外から差し出せる。

ただし、注意が必要です。AIが差し出す「第三者の視点」は、本当に外から見ているのではなく、「第三者ならこう見るだろう」という過去の実例の照合です。それは、最も平均的で、最もありふれた見方――言い換えれば、多数派の見方です。

本当に「外から見る」とは、みんなが当てはめている枠そのものを疑えることです。全員が同じ方向を向いているとき、「第三者ならこう見る」と言っても、それは全員と同じものを見ているにすぎない。AIは、共通の枠を差し出すことはできても、共通の枠から降りることはできません。AIを第三者の目として使うなら、それは出発点として。その平均的な見方すら本当に正しいのかと、みなさんがもう一度問う。そのとき初めて、本当の意味で外に立てるのです。

させて良いこと、させてはいけないこと

こう整理すると、AIに任せて良いことと、いけないことの線が見えてきます。

させて良いのは、間違えても人が拾える、平均で十分な、新規性の低いことです。文章の下書き、要約、翻訳、言い換え、定型的な作業、大量の資料の一次整理、ブレインストーミングの相手。多少ずれても被害が小さく、人が最終確認できる領域です。

させてはいけないのは、一人の個別性が本質で、間違いが取り返しのつかない、前例のない、そして最終判断であることです。医療の最終診断、心の拠り所、人の採否や融資の選別、「これは本当か」の最終確認、前例のない意思決定。これらは、目の前のその人・その状況が本質なのに、AIは平均で、それらしく答えてしまう。しかも間違いが静かに通り過ぎる。

そして現実は、便利さと尤もらしさに引っ張られて、この線を静かに越え続けています。越えていることにすら気づかないまま。なぜ越えてしまうのか――便利すぎるから、それらしすぎるから、間違いが静かだから、そして使ううちに信頼が育ち、その信頼が一番危ない場面で検証を飛ばす免罪符になるからです。最も信頼した時が、最も危ない時になるのです。

では、むしろ「させるべき」ことは

裏を返せば、積極的にAIに任せた方がいいこともあります。共通するのは、人間が本当に目を働かせるべき地点まで、人間を運ぶ仕事です。

• 網羅と見落としの防止 ―― 人間は量に負け、後半が雑になる。AIは疲れず、全部に同じ注意を向けられる。ただし、広げるのはAI、絞るのは人間。
• 退屈で確認可能な反復 ―― 書式の統一、データの整形、定型文の下書き。正解が決まっていて機械的に確かめられるもの。
• 最初の壁を壊す ―― 白紙からの一歩。叩き台や初稿を出させ、人間は良し悪しを判断する側に回る。人は、生成より批評の方が目が働く。
• 思考の壁打ち相手 ―― 反論や別の角度を無限に出させ、それを踏み台に、みなさんがもう一段深く問う。
• 知らない領域への入り口 ―― 未知の分野の「地図」を描かせる。ただし地図で見当をつけたら、大事なところは原典や実地で確かめる。
• 翻訳・言い換え・橋渡し ―― 意味の骨格を保ったまま、表現を変える。照合の純粋な本領。

貫いている線は一つです。AIは、人間を「なぜを問うべき場所」の手前まで連れて行く。そこから先は、人間が降りて、自分の足で歩く。

「させてはいけないこと」は、人間が降りて歩くべき地点でした。「させるべきこと」は、その地点までの道のりです。二つは対立しません。同じ一つの分業の、前半と後半です。前半(運ぶ)を渡すからこそ、人間は後半(歩く)に、消耗せず、全力を注げるのです。

だから、AIを使っても人は不要にならない

ここまで来ると、一つの結論が見えます。AIを使っても、人は不要になりません。

このテーマについては、AI業界の第一線に立つ人々も発言しています。NvidiaのCEO、ジェンスン・フアン氏は、こう語っています。「あなたはAIに仕事を奪われるのではない。AIを使いこなす人に、仕事を奪われるのだ」。つまり、脅威はAIそのものではなく、AIをうまく使う人と使わない人のあいだに生まれる差だ、という見方です。ここから先は、この考え方を土台にした、私なりの見解です。

なぜ、AIが人を不要にしないのか。AIは、運ぶことはできても、降りて歩くことができないからです。網羅し、整え、叩き台を出し、平均的な第三者を演じることはできる。でも、目の前のものそのものに「なぜ」を向け、似たものが尽きた地点で立ち止まり、枠の外に出て、最終判断を負う――これができない。そしてこれこそが、価値のある仕事の核です。

これは、AIがまだ未熟だから残るのではありません。AIの性質そのものから、原理的に残るのです。照合はどれだけ精巧になっても、目の前のものを見ることにはならない。

ただし、安易な安心で終わらせてはいけません。消えるのは「人間」ではなく、「人間がやっていた、AIでもできる部分」――なぜを手放した、運ぶだけの作業です。残って、むしろ価値が上がるのは、判断する、個別のものに向き合う、前例のない状況で決める、責任を負う、という歩く仕事です。フアン氏の言う「AIを使う人に奪われる」も、裏返せば、AIに運ばせたうえで、自分は歩く仕事に力を注げる人が強い、ということなのだと思います。

そして、ここに一番大事な警告があります。AIが便利で、それらしくて、静かに間違えるせいで、人間の側が「歩くこと」を手放していく危険がある。運んでもらううちに、降りて歩くのが面倒になる。AIの答えで満足して、「なぜ」を問わなくなる。

AIが人を不要にするのではない。人が、歩くことをやめたとき、人は自分で自分を不要にする。

だから「人は不要にならない」の本当の意味は、「人が、歩くことを手放さない限り、不要にならない」です。不要にならないための条件は、人間の側に残されている。そこだけは、AIには決められません。

最後に

AIはどこまでできるのか。この問いを突き詰めていくと、答えはこう変わっていきます。AIは分析の手前まで運べる。でも、本当に見ること、なぜを問うこと、それを負うことは、人間に残る。それは技術の限界であると同時に、人間の仕事そのものの定義でもありました。

AIをどこまで使うか、という問いは、最後には、人間が自分の目をどこまで守るか、という問いになります。

みなさんは今、本当に目の前のものを見ているでしょうか。それとも、似た何かを思い出して、分かったつもりになっているだけでしょうか。――この問いは、AIについての問いであると同時に、私たち自身への問いなのだと思います。