robots.txt

Die robots.txt ist eine einfache Textdatei, die sich im Wurzelverzeichnis einer Website befindet und sogenannten Webcrawlern oder Bots Anweisungen gibt, welche Seiten oder Bereiche sie durchsuchen dürfen – und welche nicht. Sie ist ein zentrales Werkzeug im technischen SEO und dient der Steuerung der Indexierung durch Suchmaschinen wie Google, Bing oder DuckDuckGo.

Die Datei basiert auf dem sogenannten Robots Exclusion Protocol und ist öffentlich zugänglich (z. B. unter www.beispielseite.de/robots.txt).

Beispiel

Ein Unternehmen betreibt eine Website mit einem internen Bereich für Mitarbeitende, der nicht in Suchmaschinen erscheinen soll. Die Webentwicklerin ergänzt in der robots.txt-Datei folgenden Eintrag:

User-agent: *

Disallow: /intern/

Damit teilt sie allen Crawlern mit, dass der Ordner /intern/ nicht indexiert oder durchsucht werden soll.

Typische Funktionen der robots.txt

  • Zugriffsbeschränkungen für bestimmte Verzeichnisse oder Dateien
  • Crawler gezielt zulassen oder ausschließen
  • Pfadangaben für Sitemap-Dateien einbinden
  • Entwicklungs- oder Testseiten vor Indexierung schützen

Wichtig: Die robots.txt ist eine Empfehlung, kein Zwang. Sie verhindert nicht das Aufrufen der Inhalte, sondern nur deren Indexierung und nur, wenn sich der Crawler daran hält.

Kurz gesagt: Die robots.txt ist der digitale Türsteher einer Website. Sie sagt Suchmaschinen, was sie sehen dürfen und was besser verborgen bleibt.

Zurück
Abstrakte Wellen aus Blau- und Goldtönen fließen elegant von links ins Bild – symbolisieren Dynamik, Eleganz und digitale Bewegung
Denkströme Update Newsletter

Melden Sie sich jetzt an und bleiben Sie immer auf dem Laufenden über die spannenden Impulse und Einblicke, die Denkströme zu bieten hat!

Jetzt anmelden
Übersicht der Standorte in Deutschland
Zentrale Geschäftsleitung
Tilsiter Straße 16a
87439 Kempten
Büro München
Hopfenstraße 8
80335 München
Büro Hamburg
Neuer Wall 10
20354 Hamburg

Wir verwenden Cookies, um Inhalte und Anzeigen zu personalisieren und die Zugriffe auf unsere Website zu analysieren. Die Informationen zu Ihrem Nutzerverhalten gehen an unsere Partner zum Zwecke der Nutzung für Werbung und Analysen weiter. Unsere Partner führen diese Informationen möglicherweise mit weiteren Daten zusammen, die sie unabhängig von unserer Website von Ihnen erhalten oder gesammelt haben. Um diese Cookies zu nutzen, benötigen wir Ihre Einwilligung welche Sie uns mit Klick auf „Alle Cookies akzeptieren“ erteilen. Sie können Ihre erteilte Einwilligung (Art. 6 Abs. 1 a) DSGVO) jederzeit für die Zukunft widerrufen. Diesen Widerruf können Sie über die „Cookie-Einstellungen“ hier im Tool ausführen.

Hinweis auf Datenverarbeitung in den USA durch Videodienst Vimeo: Wenn Sie auf "Alle Cookies akzeptieren“ klicken, willigen Sie zudem ein, dass ihre Daten i.S.v. Art. 49 Abs. 1 S. 1 lit. a) DSGVO in den USA verarbeitet werden dürfen. Die USA gelten nach derzeitiger Rechtslage als Land mit unzureichendem Datenschutzniveau. Es besteht das Risiko, dass Ihre Daten durch US-Behörden, zu Kontroll- und zu Überwachungszwecken, verarbeitet werden. Derzeit gibt es keine Rechtsmittel gegen diese Praxis vorzugehen. Sie können Ihre erteilte Einwilligung jederzeit für die Zukunft widerrufen. Diesen Widerruf können Sie über die „Cookie-Einstellungen“ hier im Tool ausführen.