生成AIができることと限界

答えを探すのではなく文を作っている

対話型のAIは膨大な文章を学習しながら、どんな言葉の後にどんな言葉が来やすいかを身につけます。質問を受けると、そのパターンをもとに最もありそうな次の一片を選び、つなげ、また次を選ぶことを繰り返して答えを完成させます。頭の中の整理された事実の一覧を調べているのではなく、「この種の質問にはたいていこういう形の答えが来る」という感覚で文を組み立てているわけです。よく扱われる話題ほど答えが正確になり、珍しい話題ほど的外れになる理由もここにあります。

もっともらしい誤答はなぜ生まれるか

この仕組みには「知らなければ知らないと言う」という装置が標準では入っていません。答えを知らない質問にも答えらしく見える文を作れてしまい、その文は正しい答えとまったく同じ口調で出てきます。存在しない本の題名、実在しない論文、それらしい偽の統計はこうして生まれます。2023年には米国で、AIが作り出した判例をそのまま裁判所に提出した弁護士が制裁を受けたことも報じられました。口調が断定的なほど、もう一度疑う習慣が必要です。

学習時点より後のことは知らない場合がある

モデルはある時点までに集めた文章で学習するため、それ以降の出来事、変わった制度、新しい価格を知らないのは当然です。問題は、知らないと言わずに古い情報を現在の事実のように語ることがある点です。検索機能の付いたサービスは最新の資料を探して使うこともありますが、その場合はどの資料を拾ったかで答えの質が変わります。日付が重要な質問では答えの基準時点を明示してもらい、公式サイトで自分で確かめるほうが安全です。

文字数と計算が苦手な理由

AIは文章を一文字ずつではなく、数文字ずつまとまった断片の単位で処理します。そのため「この文は何文字か」「この単語に特定の文字が何回出てくるか」といった質問を意外なほどよく間違えます。長いかけ算や何段階もの計算も、途中で数字がずれがちです。応募書類の文字数のように正確さが必要な値は文字数カウントの道具で別に測り、計算は電卓や表計算ソフトで確かめ直してください。計算過程を一段ずつ書いてもらうと、間違った箇所も見つけやすくなります。

同じ質問でも答えが変わる

答えを作るときに少しの無作為さが混ざるため、同じ質問をし直しても表現や結論が変わることがあります。また質問する人の意見に合わせる傾向があり、「これで合ってるよね？」と聞けば合っていると、「これは間違いだよね？」と聞けば間違いだと答えやすくなります。大事な判断では誘導する聞き方を避けて中立的に尋ね、反対の立場の根拠もあわせて求めてみてください。答えが毎回変わるなら、それ自体が確信しにくい質問だという合図です。

得意なことは確かにある

限界があるからといって役に立たないわけではありません。結果を自分ですぐ読んで判断できる作業では、時間を大きく減らしてくれます。要は、成果物の正誤を自分で見分けられるかどうかです。

• 白紙から始める下書き
• 長い文章の要点整理と目次づくり
• 堅い文をやわらかく、長い文を短く言い換える
• 難しい概念をやさしい言葉と例で説明する
• 思いつくままのメモを項目ごとに整理する

よくある失敗

いちばん多い失敗は、もっともらしい答えを確認せずにそのまま写すことです。出典や数字を含む文ほど危険です。二つ目は、AIにその答えが正しいかを聞き直し、「正しい」という返事に安心することです。同じ仕組みで作られた答えなので検証になりません。三つ目は、一度間違った答えを見ただけで、まったく使えないと結論づけることです。向いている作業と向いていない作業を分けて使えば済む話です。要約を任せる場合も原文にない内容が紛れ込むことがあるので、大事な文書なら要約と原文を並べ、要点が本当に書かれているか照らし合わせてください。

使う前に思い出したい問い

答えを受け取ったとき、次の四つを自分に問うだけで大半の事故は避けられます。一つでも当てはまれば、その答えは参考資料にとどめ、別の場所で確かめてから使ってください。

• これが間違っていたら、誰がどれだけ損をするか
• 正しいかどうかを自分で判断できるか
• 日付・数字・名前・出典が含まれているか
• 最近変わった可能性のある内容か