User-Agent: * Disallow: /cgi-bin Disallow: /mysqldumper Disallow: /logs Allow: / # Alle Roboter spidern die Domain # Verzeichnis /cgi-bin soll nicht von * gespidert werden # Verzeichnis /mysqldumper soll nicht von * gespidert werden # Verzeichnis /logs soll nicht von * gespidert werden