Ανιχνευτές μηχανών αναζήτησης: καλά bots, κακά bots Τα Spiderbots, γνωστά και ως αράχνες ιστού ή ανιχνευτές μηχανών αναζήτησης, είναι εργαλεία που αυτοματοποιούν επαναλαμβανόμενες εργασίες στο διαδίκτυο. Διαβάζουν σχεδόν τα πάντα στην ιστοσελίδα που ανιχνεύεται. Τα δεδομένα που συλλέγονται από τα ρομπότ επεξεργάζονται και χρησιμοποιούνται με διάφορους τρόπους, επομένως τα ρομπότ είναι δίκοπο μαχαίρι. Μπορούν να προσφέρουν μεγάλα οφέλη, ενισχύοντας τη λειτουργικότητα του Διαδικτύου και τις επιχειρηματικές λειτουργίες, αλλά μπορεί επίσης να είναι επιβλαβείς, θέτοντας κινδύνους για την ασφάλεια και ηθικές ανησυχίες, ανάλογα με το πώς και για ποιο σκοπό χρησιμοποιούνται.
Πολυάριθμοι web crawlers και bots, όπως Googlebot, Bingbot, Baiduspider, Slurp bot (Yahoo bot), Yandexbot, Sogou bot, Alexa crawler, DuckDuckBot, Slackbot, Facebook bot, GPTBot κ.λπ., ψάχνουν συνεχώς στο διαδίκτυο.
Λίστα επιτρεπόμενων ανιχνευτών μηχανών αναζήτησης (bots) σε τείχη προστασίας:Η σύνδεση με υπερσύνδεσμο είναι ορατή. |