Prehľadávače vyhľadávačov: dobrí boti, zlí boti Spiderboty, známe aj ako webové pavúky alebo vyhľadávače, sú nástroje, ktoré automatizujú opakujúce sa úlohy na internete. Čítajú takmer všetko na prehľadanej webovej stránke. Dáta zbierané robotmi sa spracovávajú a využívajú rôznymi spôsobmi, takže roboty sú dvojsečná zbraň. Môžu priniesť veľké výhody, zlepšiť funkčnosť internetu a podnikateľské operácie, ale môžu byť aj škodlivé, predstavovať bezpečnostné riziká a etické otázky, v závislosti od spôsobu a účelu ich použitia.
Mnohé webové prehľadávače a boty, ako Googlebot, Bingbot, Baiduspider, Slurp bot (Yahoo bot), Yandexbot, Sogou bot, Alexa crawler, DuckDuckBot, Slackbot, Facebook bot, GPTBot a ďalšie, neustále prehľadávajú internet.
Biely zoznam vyhľadávacích crawlerov (botov) v firewalloch:Prihlásenie na hypertextový odkaz je viditeľné. |