AI学習を拒否しても検索には載る?robots.txtに加わる共通シグナル

AI学習を拒否しても検索には載る?robots.txtに加わる共通シグナル

自分のブログ記事をAIに学習させたくない。でも、ChatGPTの検索機能からは記事を見つけてもらいたい。

なんとも自分勝手なわがままですが、そんな希望は両立できるのでしょうか?

2026年10月30日、OpenAIが発表したのは、Webサイト運営者がAI学習への意思を複数のAI事業者に伝えるための共通シグナルで、使われるのは、Webサイトのクローラー制御でおなじみの「robots.txt」。

新しい仕組みを理解するには、まずOpenAIが使っている2種類のクローラーの違いを知る必要があります。

GPTBotとOAI-SearchBotは、目的が違う

OpenAIには、Webサイトの情報を取得するためのクローラーが複数あり、その中でも代表的なのが、次の2種類。

  • GPTBot:生成AIの基盤モデルの学習に利用される可能性のあるコンテンツを取得する
  • OAI-SearchBot:ChatGPTの検索機能でWebサイトを表示するために利用する

名前は似ているのですが、その役割は異なり、GPTBotはAIモデルの学習に関係し、OAI-SearchBotは検索機能に関係しています。

AIに記事を学習させることと、ChatGPTの検索結果に記事を表示することは、別々の目的として扱われているわけなんです。

robots.txtでは、こうしたクローラーを個別に指定することができ、GPTBotのアクセスを拒否し、OAI-SearchBotのアクセスは許可するというような設定が可能となっています。

User-agent: GPTBot
Disallow: /

User-agent: OAI-SearchBot
Allow: /

この設定なら、AI学習に関係するクローラーを拒否しながら、ChatGPTの検索用クローラーにはサイトへのアクセスを許可することができ、AI関連のアクセスをすべて止める必要はないんです。

共通シグナルは、AI学習への意思表示をまとめる仕組み

今回のOpenAIの発表で注目したいのが、AI学習利用に関する共通シグナルで、これまでWebサイト運営者は、AI事業者ごとにクローラー名や設定方法を確認し、それぞれに対応する必要があり、複数のAIサービスが存在するなかで、個別設定を続けるのは手間がかかりますし、まぁ、面倒臭い。

そこでIETF(インターネット技術の標準化を進める組織)では、AI学習への意思表示を共通化するための技術草案が公開されていて、その草案で示されているのが、次のトークンです。

User-Agent: __usage_ai-training
Disallow: /

これは、AI学習への利用を拒否する意思を示す記述例であり、従来のGPTBotのような個別のクローラー名ではなく、AI学習という利用目的に対して共通の意思表示を行う点が特徴となっています。

OpenAIはこの共通シグナルを尊重する方針を発表し、実装を今後数か月以内に進めるとしていて、Googleも同じ2026年10月30日に対応方針を発表しています。

複数の事業者が同じ仕組みに対応すれば、サイト運営者はAI学習への基本的な意思表示を共通化しやすくなりますから、運用が少し楽になってきます。

AI学習を拒否しても、検索用クローラーは別に扱える

共通シグナルを理解するうえで大切なのは、AI学習への意思表示と、クローラーのアクセス制御が別のものとして扱われていることで、先ほどのGPTBotとOAI-SearchBotの例に戻ってみると、GPTBotはAI学習に関係し、OAI-SearchBotは検索に関係します。

共通シグナルはAI学習への利用方針を伝えるためのもので、検索用クローラーへのアクセス許可を一緒に決めるものではありません。

そのため、サイト運営者は次のような希望を分けて考えられます。

  • AIモデルの学習には記事を利用してほしくない
  • ChatGPTの検索機能では記事を見つけてもらいたい

これは、ブログや出版社にとって興味深い変化で、自分が書いた記事をAIの学習に使ってほしいかどうかと、AI検索を通じて読者に記事を届けたいかどうか、両者は必ずしも同じ希望ではありません。

robots.txtの設定を用途別に考えることで、その違いを反映できるようになります。

共通シグナルの実装はこれから

今回の共通シグナルは、IETFの技術草案として公開されている段階ですから、OpenAIも実装は今後数か月と発表しており、既存のクローラー制御をいますぐ削除する必要もありません。

現時点ではGPTBotやOAI-SearchBotなど、既存のクローラー設定を確認することが具体的な対応となり、AIに記事を学習させたくないという希望と、AI検索から読者に来てもらいたいという希望、これまで一緒に考えられがちだった2つの問題を、robots.txtで別々に扱えるようにする動きが始まっているということだけでも認識しておきましょう。

Tags: