hallo,
wird die datei robots.txt auch dazu verwendet, um spamcrawler nicht auf gewisse seiten zu führen?
gewissermassen als eine schutzmassnahme ?

hallo,
wird die datei robots.txt auch dazu verwendet, um spamcrawler nicht auf gewisse seiten zu führen?
gewissermassen als eine schutzmassnahme ?
Meine Frage Und welche Maßnahme schlägst Du vor? war wohl zu kurz.
Ich wollte eigentlich wissen, welche Maßnahme Du vorschlägst, um spamcrawler nicht auf gewisse seiten zu führen ( ghartl1 ), wenn die robots.txt von vornherein ausscheidet, und wenn Du eine IP-Sperre in der .htaccess für ungeeignet hältst.