ChatGPTをはじめとするAIは、仕組み上、自身が生成した文章の正誤や真偽を検証できません。実際には確認できていないにもかかわらず、そう見えてしまうのがやっかいなところです。この性質を知らずにAI生成文をそのままコピペして送りつける人が増えており、受け取った側は「この文章は正確か」を一から確認しなければならない余計な負担を強いられます。こうした状況に対し、「Don’t paste the AI, please.（AIが書いたものをコピペしないでください）」と訴える啓発運動が立ち上がっています。
この運動が指摘している問題の核心は、AIの「もっともらしさ」にあります。
ChatGPTなどの大規模言語モデルは、統計的に自然な文章を生成することに特化しています。つまり「正しそうに聞こえる文章」を作るのは得意でも、「実際に正しいかを判断する」機能は持っていません。これはアーキテクチャ上の特性であり、モデルの性能が上がれば解消されるという話でもない。むしろ出力の流暢さが上がるほど、誤りを見抜きにくくなるという逆説すらあります。
問題なのは、この性質が直感的にわかりにくい点です。スペルミスだらけのメモなら誰でも「信頼性が低そう」と構えますが、整った文体・適切な見出し・引用風の記述が並ぶAI出力は、読む側の警戒心を自然と下げてしまいます。コピペした本人が「確認した」と思い込んでいるケースも十分ありえます。
「コピペ」が問題なのか、「確認なしコピペ」が問題なのか
ここは切り分けが必要です。AI生成テキストを下書きや叩き台として使い、内容を精査してから送付するのであれば、それは道具の適切な使い方といえます。運動が標的にしているのはあくまで「無検証のままペーストする」行為であり、AI活用そのものを否定するものではありません。
とはいえ、「確認した」と「した気になっている」の境界は曖昧です。特に専門外の分野では、何を確認すればよいかすらわからないまま「読んで問題なさそうだった」で送ってしまうことは起こりやすい。受け取る側が毎回その検証コストを引き受けなければならないなら、やり取り全体の生産性はむしろ下がります。
【編集部補足】
一般論として、こうした「出力品質の検証コストを受信者に転嫁する」問題は、メール・SNS・検索結果など情報流通の各段階で繰り返し起きてきたと言われます。AI出力がその新しい形態として加わったという見方もできますが、スケール感がだいぶエグい。一人のヘビーユーザーが一日に何十本もAI文をそのまま送れてしまう時代なので、過去の類似問題と単純に同列には置けないかもしれません。
関連サービス（広告）
AIの挙動を実際に試してみたい方は、ブラウザだけで本格的なAI画像生成ができる ConoHa AI Canvas
で、出力傾向を自分の手で確かめてみるのも面白い切り口です。
