OnCrawl
OnCrawl wird von BotScope der Kategorie SEO zugeordnet. Die Erkennung erfolgt über den User-Agent-String. Das aktuelle Muster:
www\.oncrawl\.com
SEO-Tool-Crawler erstellen interne Datenbanken für Tools wie Ahrefs, Semrush, Sistrix oder Majestic. Sie haben keine direkte SEO-Wirkung — nur das Tool greift auf die Daten zu. Crawl-Frequenz steigt mit deiner Domain-Authority.
Im BotScope-Dashboard siehst du für OnCrawl: Top-Pfade, Status-Verteilung, Bytes-Volumen und ob die User-Agent-Signatur über die Zeit stabil bleibt oder rotiert.
robots.txt-Direktive für OnCrawl
Wenn du OnCrawl nicht crawlen lassen möchtest, ergänze folgenden Block in deiner /robots.txt. Das wirkt nur bei Bots, die robots.txt respektieren — bösartige Crawler ignorieren es.
User-agent: OnCrawl Disallow: /
Diese Seite wird mit Detail-Wissen über OnCrawl weiter angereichert.