01-12-2008, Monday-12:53:14
Laut Wikipedia http://de.wikipedia.org/wiki/Robots_Exclusion_Standard
gibt es ein "Crawl-delay:" das in Sekunden angegeben wird, z.B "Crawl-delay: 600". Damit könnte man z.B. sagen, nur eine Seite alle 10 Minuten oder so zu saugen. Würde das helfen? Halten sich die Bots daran?
Edit: Selbst laut Wikipedia halten sich nur zwei sorten Bots daran ... ?
gibt es ein "Crawl-delay:" das in Sekunden angegeben wird, z.B "Crawl-delay: 600". Damit könnte man z.B. sagen, nur eine Seite alle 10 Minuten oder so zu saugen. Würde das helfen? Halten sich die Bots daran?
Edit: Selbst laut Wikipedia halten sich nur zwei sorten Bots daran ... ?
Blogger blog blog