Jeden wpis w robots.txt zamiast pięciu - sprawdź, co blokujesz, zanim wyłączysz trening AI

Google, Microsoft i OpenAI zapowiedziały, że będą respektować wspólny token w robots.txt służący do wyrażania preferencji dotyczących treningu AI. Jeden wpis zastępuje osobne instrukcje dla każdego dostawcy - ale nie u każdego z nich znaczy to samo.

Udostępnij
Jeden wpis w robots.txt zamiast pięciu - sprawdź, co blokujesz, zanim wyłączysz trening AI

Sygnał w danych

Niezależne źródła o tym temacie: 2 w ostatnim tygodniu, 4 w 30 dni, 4 w 90 dni. Temat obserwujemy od 04.11.2026; łącznie 6 twierdzeń w naszej bazie.

tydz. 340
tydz. 350
tydz. 360
tydz. 370
tydz. 380
tydz. 390
tydz. 400
tydz. 410
tydz. 420
tydz. 430
tydz. 443
tydz. 451

Liczba niezależnych źródeł w kolejnych tygodniach (ostatnie 12 tygodni).

Co się dzieje

Do tej pory wydawca, który nie chciał, żeby na jego treściach trenowano modele AI, musiał przygotowywać osobne instrukcje dla każdego dostawcy. Google ma własny token Google-Extended, Bing - własne ustawienia, a OpenAI i Anthropic - kolejne. Teraz pojawia się jeden wspólny mechanizm.

Google zapowiedział obsługę wspólnego „policy tokenu” w robots.txt, opartego na pracach grupy AIPREF w IETF. Google, Microsoft i OpenAI poinformowały 30 października, że będą respektować ten wspólny mechanizm wyrażania preferencji dotyczących treningu. Jego podstawą jest Internet-Draft Kevina Kelleya z Anthropic.

W czym źródła się zgadzają

  • Jeden token, nie pięć. Wydawca deklaruje swoją politykę wobec treningu AI raz, a nie osobno u każdego dostawcy.
  • Dotychczasowe kontrolki zostają. Google-Extended i mechanizmy innych firm nadal działają i mogą doprecyzowywać wspólny sygnał.
  • Blokada treningu to nie blokada indeksowania. To dwa różne sygnały, a mylenie ich to najczęstszy błąd przy wdrożeniu.
  • Google traktuje wspólny opt-out jak rezygnację z Google-Extended, jeśli witryna nie odniosła się wprost do Google-Extended. Ten token obejmuje też cytowanie w aplikacji Gemini.
  • Microsoft porządkuje stare sygnały. Po 1 marca 2027 roku przestanie traktować NoArchive i NoCache jako preferencje dotyczące treningu lub groundingu.
  • Podstawa prawna się umacnia. Unijny kodeks dla modeli GPAI uznaje robots.txt za główną metodę wyrażania preferencji wydawcy.

Gdzie się różnią

Źródła zgadzają się co do kierunku, ale nie co do zakresu. Google-Extended obejmuje jednocześnie trening i cytowanie w aplikacji Gemini, a u Microsoftu stare sygnały NoArchive i NoCache działały inaczej i zostaną wygaszone dopiero od marca 2027 roku. Ten sam wpis w robots.txt może więc u każdego dostawcy znaczyć co innego.

Druga rozbieżność dotyczy tego, od kiedy wspólny token będzie faktycznie respektowany. To mechanizm wciąż w trakcie standaryzacji, a część zapowiedzi to deklaracje na przyszłość. Do jej zakończenia jedynym pewnym sygnałem pozostają kontrolki poszczególnych dostawców.

Co z tym zrobić

Zapisz politykę AI dla swojej witryny w trzech zdaniach: czy treści mogą służyć do trenowania modeli, czy mogą być używane jako źródło w odpowiedziach i czy mają być indeksowane w wyszukiwarce. Dopiero potem dobieraj tokeny.

Wspólny token ustaw jako domyślną deklarację, a wyjątki obsłuż za pomocą Google-Extended i ustawień poszczególnych dostawców. Po wdrożeniu sprawdź, czy blokada treningu nie odcięła cię jednocześnie od cytowań w odpowiedziach AI - to najczęstszy skutek uboczny.

Nasz wniosek

Wspólny token w robots.txt upraszcza deklarację, ale nie wyrównuje jej skutków u różnych dostawców. Wydawca zyskuje jedno miejsce na określenie polityki AI, ale traci wymówkę, że nie wiedział, jak ją wyrazić. Największym ryzykiem nie jest brak kontroli, lecz nieświadome zablokowanie cytowań w odpowiedziach AI razem z treningiem.

Pewność: średnia - kierunek potwierdzają cztery niezależne źródła i oficjalny blog Google, ale mechanizm jest wciąż w trakcie standaryzacji, a jego zakres u poszczególnych dostawców nie jest taki sam. Zmienimy zdanie, jeśli: Gdyby dostawcy respektowali token tylko częściowo albo Google i Microsoft przyjęły różne definicje tego samego wpisu, wspólny mechanizm byłby wart mniej niż osobne kontrolki.

Źródła