Hilfe, ich werde nicht gefunden – Wie indexiert man eine Website richtig?

Schon kurz nach der Veröffentlichung bzw. Online-Stellung einer neuen Website sind Websitebetreiber natürlich daran interessiert, dass ihre Website in den Suchergebnissen der einschlägigen Suchmaschinen auch auftaucht – man spricht davon, dass eine Seite “indexiert” wurde. Sie taucht also im Index auf.

Wie funktioniert das nun genau und muss man eigene Schritte unternehmen. Grundsätzlich sei eines vorweg gesagt. Bei einer WordPress-Installation muss man eigentlich nichts aktiv unternehmen, aber man kann das Verfahren beschleunigen.

Suchmaschinen krabbeln selbständig

Suchmaschinen crawlen (engl. für “krabbeln”, “kriechen”) das Internet selbstständig und erfassen so neue Inhalte, die dann indexiert werden. Das kann allerdings einige Zeit dauern, so dass man manchmal etwas geduldig sein muss. Suchmaschinen steuern dafür die Sitemap einer Website an, auf der sich alle (für sie) relevanten Informationen befinden.

Sollte eine Website auch nach einiger Zeit immer noch nicht in den Suchergebnissen auftauchen, muss man prüfen, ob man die Indexierung nicht aktiv verhindert. In WordPress geht das z. B. durch die Einstellung “Suchmaschinen davon abhalten, diese Website zu indexieren.” Diese Option kann aktiviert bzw. deaktiviert werden. Ihr findet sie unter Einstellungen/Lesen. Zudem ist es möglich die Indexierung über einen Code in der htaccess-Datei zu verhindern. Schaut also auch dort nach.

Eine Standard-Installation von WordPress (ohne SEO-Plugin!) verfügt seit der Version 5.5 über eine eigene xml-Sitemap, die ihr unter der URL meine-website.de/wp-sitemap.xml findet.

Sitemaps stellen eine einfache Möglichkeit für Webmaster dar, Suchmaschinen Seiten auf Ihren Websites zu melden, die zum Durchsuchen verfügbar sind. In ihrer einfachsten Form entspricht die Sitemap einer XML-Datei, in der URLs für eine Website sowie zusätzliche Metadaten über jede URL (wie Datum der letzten Aktualisierung, Änderungshäufigkeit, Wichtigkeit der URL im Vergleich zu anderen URLs auf der Website) aufgeführt sind, was den Suchmaschinen ein intelligenteres Durchsuchen von Websites ermöglicht.

Web-Crawler ermitteln normalerweise Seiten aufgrund von Links innerhalb der Website und über andere Websites. Sitemaps ergänzen diese Daten, um Crawlern, die Sitemaps unterstützen, zu erlauben, alle URLs in der Sitemap aufzunehmen und Informationen über diese URLs anhand der verknüpften Metadaten zu ermitteln.

sitemaps.org

Wenn man ein SEO-Plugin installiert und aktiviert hat wird die sitemap.xml meist durch dieses generiert. Oft ist die URL unter der die Sitemap dann auftaucht folgende: meine-website.de/sitemap.xml Im Zweifelsfall findet ihr in der Dokumentation des Plugins den genauen Pfad.

Im Gegensatz zur wordpress-eigenen Sitemap bieten Plugins auch die Möglichkeit auf “einfache” Weise einzelne Seiten von der Indexierung auszuschließen.

Suchmaschinen aktiv ansprechen

Möchte man das automatisierte Crawlen beschleunigen, kann es sinnvoll sein diese Sitemap direkt bei Google (oder auch einer anderen Suchmaschine) “einzureichen”.

Sowohl bei Google wie auch bei Bing gibt es die Möglichkeiten eine sitemap aktiv zur Indexierung einzrureichen. Wie das genau geht, könnt ihr hier erfahren:

Obwohl man mit dem Einreichen der Sitemap bei einer Suchmaschine selbst aktiv wird, wird das “crawlen” letztlich wie immer durch die Suchmaschine selbst stattfinden.

IndexNow

Eine ganz neue Methode (Push anstatt Pull) Inhalte zur Indexierung zu bringen, wurde durch die Inititaitve IndexNow von Microsoft (Bing) und Yandex nun gestartet. Hierbei können aktiv einzelne URL an die Suchmaschine “gemeldet” werden. Dabei funktioniert das ganze mit drei einfachen Schritten

  1. API generieren
  2. API im Stammverzeichnis der Website hosten
  3. URLs einreichen

Wegen des geringen Marktanteils von Bing hat IndexNow derzeit noch eine eingeschränkte Verbreitung. Aber Akamai, eBay und Cloudflare haben bereits angekündigt IndexNow zu unterstützen. Microsoft stellt zudem passenden Code für WordPress zur Verfügung und setzt das neue Protokoll bei eigenen Webseiten wie LinkedIn, MSN und GitHub ein.

Image(s) licensed by Ingram Image/adpic.

Wir arbeiten seit 20 Jahren mit WordPress und bieten diverse Dienst­leistungen rund um das System an. Kontaktiere uns für weitere Informationen oder für ein Angebot.

Verwandte Beiträge: