meta-webindexer
meta-webindexer wird von BotScope der Kategorie AI zugeordnet. Die Erkennung erfolgt über den User-Agent-String. Das aktuelle Muster:
meta-webindexer
AI-Trainings-Crawler sammeln Web-Inhalte als Trainingsmaterial für Large Language Models. Sie bringen keinen direkten Traffic — dein Content landet im Modell und beeinflusst zukünftige AI-Antworten. Die meisten honorieren robots.txt, einige sind aggressiver als Suchmaschinen-Crawler.
BotScope aggregiert alle meta-webindexer-Anfragen in deiner Session: welche URLs er bevorzugt, wie viele 4xx/5xx-Antworten er bekommt, ob er aus einer oder vielen IPs crawlt, und in welchem Zeitfenster er besonders aktiv ist.
robots.txt-Direktive für meta-webindexer
Wenn du meta-webindexer nicht crawlen lassen möchtest, ergänze folgenden Block in deiner /robots.txt. Das wirkt nur bei Bots, die robots.txt respektieren — bösartige Crawler ignorieren es.
User-agent: meta-webindexer Disallow: /
Diese Seite wird mit Detail-Wissen über meta-webindexer weiter angereichert.