Glassdoor
Glassdoor wird von BotScope der Kategorie Jobs zugeordnet. Die Erkennung erfolgt über den User-Agent-String. Das aktuelle Muster:
Glassdoor
Job-Aggregator-Crawler holen Stellenanzeigen für Plattformen wie Indeed oder StepStone. Crawl-Frequenz steigt mit der Anzahl deiner Stellen.
Im BotScope-Dashboard siehst du für Glassdoor: Top-Pfade, Status-Verteilung, Bytes-Volumen und ob die User-Agent-Signatur über die Zeit stabil bleibt oder rotiert.
robots.txt-Direktive für Glassdoor
Wenn du Glassdoor nicht crawlen lassen möchtest, ergänze folgenden Block in deiner /robots.txt. Das wirkt nur bei Bots, die robots.txt respektieren — bösartige Crawler ignorieren es.
User-agent: Glassdoor Disallow: /
Diese Seite wird mit Detail-Wissen über Glassdoor weiter angereichert.