robots.txtでAI学習の希望を伝える新ドラフトの書き方とGPTBotとの違い
✔ 事実確認済み(2026-11-04):記事中の事実 25 件を出典の本文と照合しています。
robots.txtに「AI学習に使ってほしいかどうか」を書くための新しい書き方が、IETF(インターネットの技術仕様を議論する団体)のドラフトとして2026年10月30日に公開されました。自分のサイトや会社のサイトを運営していて、AI学習への意思表示を整えたい方に向けた記事です。この記事では、ドラフトの書き方と、OpenAIが案内している現在のGPTBot設定との違いを、確認できた資料の範囲で整理します。
このドラフトは何を決めているのか
ドラフトの題名は「Machine-Readable Training Preference Signal」です。著者はAnthropicのKevin Kelley氏で、2026年10月30日に公開されています。有効期限は2027年5月3日で、位置づけは標準化をめざす文書(Standards Track)とされています。
robots.txtは、クローラー(自動でページを巡回するプログラム)向けの指定を書くテキストファイルです。このドラフトは、同じ形式のまま「AI学習に使ってほしいか」を書けるようにする提案です。
決めているのは、ポリシートークン(意思表示のための決まった名前)の __usage_ai-training です。新しい命令は増えません。
インターネットドラフトは作業中の文書です。ドラフト自身が、参考資料として使ったり、「作業中」以外の形で引用したりするのは適切でないと注意書きしています。名前や書き方は今後変わる可能性があります。
書き方の例
ドラフトにある例は、次のとおりです。
User-Agent: __usage_ai-training
Disallow: /
Allow: /press-kit/
ドラフトは、この例を「/press-kit/ 以外のすべてのパスでAI学習に反対し、/press-kit/ では賛成する希望」と読みます。
ルールを表にまとめると、次のようになります。
| 場面 | ドラフトの扱い |
|---|---|
| 名前の書き方 | User-Agent の行に __usage_ai-training を書く |
| 反対の希望 | そのパスを Disallow にする |
| 賛成の希望 | Allow を使う |
__usage_ai-training のグループが無い |
希望は表明されていないと扱う |
User-Agent: * のグループ |
このトークンには当てはまらないと扱う(MUST NOT) |
| 優先順位 | 具体的な指定が、一般的な指定より優先される(SHOULD) |
| 個別の契約 | 契約が、この方法での希望より優先される場合がある(MAY) |
特に大事なのは、User-Agent: *(すべてのクローラー向けの指定)では意思表示にならない点です。すでに User-Agent: * に Disallow: / を書いている場合でも、AI学習への反対を伝えたいなら、__usage_ai-training のグループを別に用意する必要があります。
このシグナルでできないこと
ドラフトは、このトークンを「クロール(巡回)の動きを指示するものではない」と書いています。コンテンツの使い方についての希望と、通信量の管理のための指定は、互いに独立したものだと説明されています。
つまり、__usage_ai-training を書いても、クローラーのアクセス自体を止めることにはなりません。クロールを制限したいときは、ドラフトによれば、クローラーの名前(プロダクトトークン)を指定したグループを使います。
OpenAIの現在の設定: GPTBotとOAI-SearchBot
OpenAIの公式ドキュメント(Overview of OpenAI Crawlers)は、目的の異なるクローラーを案内しています。
| クローラー | 公式ドキュメントの説明 |
|---|---|
| OAI-SearchBot | ChatGPTの検索機能で、サイトを検索結果に出すために使う |
| GPTBot | 拒否(Disallow)すると、サイトの内容を生成AIの基盤モデルの学習に使わないでほしいという意思表示になる |
| ChatGPT-User | 自動でウェブを巡回する用途ではない。利用者が操作を始めるため、robots.txtのルールが当てはまらない場合がある |
OpenAIは、検索の拒否や自動巡回の管理には、robots.txtでOAI-SearchBotを使うよう案内しています。それぞれの設定は独立して働くので、検索に表示されたいサイトはOAI-SearchBotを許可し、学習は断りたいサイトはGPTBotを拒否する、という組み合わせにもできます。
検索結果への反映には、robots.txtの更新から約24時間かかることがあると、同じドキュメントに書かれています。
今回確認できたOpenAIの公式ドキュメントには、新しいシグナルへの言及がありませんでした。OpenAIが
__usage_ai-trainingをどう扱うかは、この記事では確認できていません。OpenAIの最新の案内を、公式サイトで確認してください。
サイト運営者が今できること
確認できた範囲で、取れる行動を整理します。
- 現在のrobots.txtを開き、
GPTBotやOAI-SearchBotなどの指定を確認する - AI学習に使ってほしいかどうかを、サイトとしての方針に決める
- 既存のGPTBotなどの設定は、消さずに残しておく
__usage_ai-trainingを追加するかは、ドラフトが作業中であることを踏まえて検討する
手順3の理由は、ドラフトがまだ確定した標準ではないためです。現在のOpenAIの公式ドキュメントで案内されているGPTBotの設定は、そのまま残しておくのが安全です。
よくある質問
Q. このシグナルを書けば、OpenAIは学習に使わなくなりますか。 A. この記事で確認できた資料からは、OpenAIの対応は分かりませんでした。OpenAIの公式ドキュメントで案内されている学習の意思表示は、GPTBotの拒否です。
Q. User-Agent: * に Disallow: / と書いてあれば足りますか。
A. ドラフトでは、User-Agent: * はこのトークンに当てはまらないと扱います。このシグナルで意思表示するには、__usage_ai-training のグループが必要です。
Q. 書いていない部分はどう扱われますか。
A. __usage_ai-training のグループが無いときは、希望は表明されていないと扱われます。反対でも賛成でもない、という意味です。
Q. 検索結果からも消えますか。 A. このシグナルはクロールの指示ではありません。ChatGPTの検索への表示は、OpenAIの公式ドキュメントでは、OAI-SearchBotの設定に関わるものとして案内されています。
Q. OpenAIの別の新機能との関係はありますか。 A. 直接の関係は確認できていません。OpenAIの開発者向けの新しいAPIについては、Decisions APIの解説記事をご覧ください。
まとめ
- 2026年10月30日にIETFのドラフトが公開され、robots.txtの
User-Agent: __usage_ai-trainingとDisallow/AllowでAI学習の希望を書く方法が示された User-Agent: *はこのトークンに当てはまらず、クロールを止める命令でもない- OpenAIの公式ドキュメントで案内されている学習の意思表示は、GPTBotの拒否。ドラフトは作業中の文書で、有効期限は2027年5月3日
まずは、自分のサイトのrobots.txtを開いて、GPTBotとOAI-SearchBotの現在の設定を確認してください。そのうえで、IETFのドラフトとOpenAIの公式ドキュメントで最新の内容を確かめてから、追加するかを決めましょう。内容は記事公開時点のものです。