出典：Fast Company
2010年代半ば、コンテンツマーケティングの世界でSEO量産記事が爆発した時期、編集者たちは「読めばわかる」と言っていた。人間の文章と機械が吐き出した文章の違いは、肌感覚でわかるものだ、と。その自信は長く保たれた。
今、その自信が静かに崩れている。
カンファレンスの壇上で登壇者がノートを読み上げる。聴衆の中にいた記者は、その瞬間に違和感を覚えた。「and this is where it gets interesting」「it’s not X, it’s Y」。整然と並んだ接続詞と対比表現。マネジメントについて語っているはずなのに、言葉が人の体を通っていない感じ。ChatGPTが好む「癖」を、耳が拾ってしまった。
これが一個人の話であれば、笑い話で終わる。だが今、同じことがビジネスのあらゆる場面で起きている。送られてきたメール、提出されたレポート、会議での発言。受け取った側が「これは人間が書いたのか」と一瞬止まる、その瞬間が積み重なっている。
問題は検出の精度ではなく、疑念そのものが常態化しつつあることだ。
「AIかどうか」を判定するツールへの需要は高まっているが、そのツール自体の信頼性は均一ではない。スタンフォード大学の研究が示したように、英語を母語としない話者の文章がAI生成と誤判定されるリスクは不均衡に高い。シンプルで予測しやすい表現が「機械的」と読まれてしまうからだ。
一方で、AI側も止まっていない。検出を逃れるためにAI出力を書き換える「ヒューマナイザー」と呼ばれる産業が生まれ、AI企業自身もモデルの言語的な癖を継続的に修正している。検出器が新しいモデルに対応するたびに、モデルはまた変化する。
その結果、書き手は自分の文章から「AI的な表現」を削ぎ落とすようになった。エムダッシュを避け、三点列挙を崩し、滑らかすぎる接続詞を排除する。機械は人間らしく見えるよう学習し、人間は機械に見られないよう自分を編集する。
誰が損をするかは、すでに明確になりつつある。非英語圏の書き手、平易な文体を持つ書き手、そして根拠のない疑念をかけられた時に反論の手段を持たない書き手だ。2024年のフランス文壇を揺るがした事件は、その構図を凝縮して見せた。
3行まとめ
- AIが生成した文章特有の言い回しによって、プレゼンや文書など様々な場面で「これはAIではないか」という疑念が生まれるようになっている
- フランスでハイチ系カナダ人作家が主要文学賞を受賞した直後、AI検出ツールのスクリーンショットが拡散し、AI使用疑惑が浮上した
- AI検出ツールは言語・文体・文章量によって精度が異なり、非英語圏の話者や独自の文体を持つ書き手が誤判定されるリスクが報告されている
※以下は詳細
AIっぽい言い回しだけで、信頼は失われる
AIで書かれた文章を検出しようとするツールへの需要が高まっています。しかし検出ツールの精度は一様ではありません。スタンフォード大学の研究者が2023年に示したところによると、初期の検出ツールは英語を母語としない話者が書いたエッセイを機械生成と誤判定する割合が不均衡に高く、その原因はシンプルで予測しやすい言い回しが「AI的」と読まれることにあります。
また、AI出力を人間らしく書き換える「ヒューマナイザー」と呼ばれるサービスが産業として成立しており、AI企業自身もモデルの言語的な癖を継続的に修正しています。その結果、人間とAIの文章を区別することはますます難しくなっています。
フランス文壇を揺るがした受賞作へのAI疑惑
2024年9月21日、ハイチ系カナダ人作家テリソン・オレリアンが、フランスの大手小説賞「Prix du roman Fnac」を小説『C’était ça ou mourir（それか死か）』で受賞しました。同作は約20カ国から翻訳オファーを受け、ゴンクール賞を含む複数の権威ある文学賞の候補にも挙がっていました。
受賞当日、X上の匿名アカウントがAI検出ツール「Pangram」のスクリーンショットを投稿し、小説がほぼ全編AIによって書かれたと主張。その投稿は2日間で300万回以上閲覧されました。
オレリアンはこれを全面否定し、自身の文体がハイチおよびカリブ海の口承の伝統に根ざしていること、検出ソフトが古典フランス文学を基準に調整されている可能性を指摘しました。人種差別的な攻撃を受けたとも非難し、出版社も「絶対的な信頼」を表明しています。
メディアが独自に検証を行ったところ、ケベックの日刊紙『La Presse』がPangramで小説全文をテストした結果は94%を記録。他の媒体も各抜粋で100%のスコアを得ました。一方、オレリアンが2014年・2015年に発表した作品や他のフランス人作家の新作は「人間」と判定されています。ただし、AFP通信が同じ文章を8種類の異なる検出ツールにかけたところ、一部のツールでは「人間が書いた可能性が非常に高い」との結果も出ており、検出ツールが文章の実際の執筆経緯を証明するものではないことも示されました。
検出器とヒューマナイザーの終わりなき更新競争
Pangram、GPTZero、Turnitinなどの検出企業は、新世代のAI生成テキストが登場するたびに分類器を再訓練しています。あるフランスの計算言語学者はこれを「猫とネズミのゲーム」と表現しています。検出器は毎月変化するモデルに合わせて再訓練し続けなければならず、追いかけっこに終わりはありません。
ツールの信頼性は言語によっても異なります。Pangram自身も、短い抜粋に対してはツールの信頼性が低下することを認めており、Xで拡散したのはまさにそのような短い抜粋でした。
こうした状況の中で、書き手たちは自己検閲を始めています。エムダッシュ、整然とした三点列挙、「AIの癖」として知られる表現を意図的に避けるようになっています。機械は人間らしく聞こえるよう訓練され、人間は機械のように見えないよう自分の文章を編集する。両者の区別はますます難しくなり、疑念は広がり続けています。
全体まとめ
AIの普及によって「誰が書いたか」への疑念があらゆる文章に及ぶようになっています。フランス文壇での受賞作へのAI疑惑が示したように、検出ツールは言語・文体・文章量によって判定結果が大きく変わります。ヒューマナイザーや各社のモデル改良によって検出はさらに難しくなっており、書き手がAI的表現を自ら排除し、機械が人間らしく見えるよう学習し続ける中で、疑念の解消はいっそう困難になっています。