ソースロンダリング。弱い情報源が、AIを通ると強く見えて出てくる

健康の主張でも、市場規模でも、法的なルールでも、AIに尋ねると、回答は継ぎ目のない1つの声で届きます。2文目の背後には、几帳面な政府の統計データ。4文目の背後には、順位を取るためだけに、特に誰でもない誰かが、確認できる何にも基づかずに書いたページ。回答の中では、2つの文はまったく同じに聞こえます。

この平坦化がロンダリングです。公開ウェブの上では、ジャンクなページは少なくともジャンクに見えます。広告、水増し、匿名の署名が警告してくれます。AIの回答の中では、その信号は剥ぎ取られ、内容はアシスタントの穏やかで権威ある語り口に書き直されます。弱さは生き残り、警告ラベルだけが消えるのです。

検索システムは情報源を、関連性と抽出しやすさで順位づけます。認識論的な品質ではありません。質問に直接、きれいな構造で、引用しやすい文で答えるページが引き上げられ、コンテンツファームはまさにその形に最適化してきました。コロンビア大学Towセンターは下流の結果を測定しています。AI検索エンジンはテストした質問の60%以上で出典を取り違えるか捏造し、最も優秀なエンジンでも37%が誤りでした。

情報源が信頼に値するかの判断には、誰がその背後に立っているか、どんな証拠の上に載っているか、何を達成するために書かれたかを知る必要があります。これらはテキストについてではなく、世界についての質問であり、パイプラインは一度も問いません。文単位の引用は、主張がどこから来たかを教えてくれます。来た場所がまともかどうかは、教えてくれないのです。

ロンダリングを解くチェックは、情報源1つあたり30秒ほどで、機械が飛ばした質問を問います。

誰が書いたか。名前のある専門家か、失う評判を持つ機関か、それとも探しても見つからない誰かか。匿名は失格ではありませんが、自信を借りる根拠になる説明責任を取り除きます。

どんな証拠で。一次データ、名指しされた研究、リンクされた文書か、それとも証拠の文法をまとった断言だけか。引用を1つ、深くたどってください。何も引用しないページを引用するページを引用するページ、というのは1つのジャンルです。

どんな動機で。知らせるためか、順位を取るためか、売るためか。動機は自動的に虚偽を意味しませんが、著者がどこで確認をやめたかを教えてくれます。

情報源1つ30秒は安いですが、タダではありません。だから、ロンダリングのコストが最も高い場所に使ってください。あなたが繰り返す予定の主張、意思決定を動かす数字、そしてあなたを驚かせたものすべて。驚きは最も価値の高いトリガーです。弱い情報源から来た驚きの主張こそ、ロンダリングされたコンテンツの中で最も拡散しやすい形だからです。

仕事の自由な段階ではチェックを飛ばしてください。チームの確認フローが引くのと同じ境界線です。そして、複利の仕掛けに気づいてください。一度チェックした情報源、つまり自分の審査済み文書と信頼できる参照のライブラリは、毎回チェックし直す必要がありません。それが、本格的な仕事を公開ウェブではなくキュレーションされたコーパスの上で行うことの、静かな論拠です。ソース品質のチェックは、回答ごとに永遠にではなく、上流で一度だけ行われるのです。

これこそ、Tatsulokがオープンウェブ検索ではなく、ライブラリとキュレーション済みコレクションを中心に設計されている理由です。あなた自身の文書は、あなたがすでに背後に立っている情報源です。フィリピンの法令、法典、最高裁判決のコーパスのようなキュレーション済みコレクションは、コーパスの水準で審査されているので、すべての回答は来歴をロンダリングする代わりに相続します。各主張は今までどおり該当箇所にリンクし、欠落は正直に語られるので、チェックの両方の層、該当箇所と情報源が、ワンクリックの深さにあります。

今週の練習です。登録は要りません。出典付きのAIの回答を1つ取り出し、引用された各情報源に3つの質問をかけてください。採点します。見つけられる誰かが、たどれる証拠の上に、順位のためではなく知らせるために書いたものはいくつあったか。その点数こそ、回答の流暢さよりも、その回答の本当の価値です。