# robots.txt für 12Malta.com # Erstellt am 26.04.2025 # Erlauben für alle User-Agents User-agent: * # Sitemap einbinden Sitemap: https://www.12Malta.com/sitemap.xml # Crawling Regeln Allow: / # Spezifische Verbote (Ordner, die nicht indexiert werden sollen) Disallow: /admin/ Disallow: /backend/ Disallow: /private/ Disallow: /tmp/ Disallow: /config/ Disallow: /db/ Disallow: /vendor/ Disallow: /node_modules/ Disallow: /composer.json Disallow: /composer.lock Disallow: /package.json Disallow: /package-lock.json # Datei-Verbote (Optional, falls sinnvoll) Disallow: /*.php$ Disallow: /*.sql$ Disallow: /*.tpl$ Disallow: /*.ini$ # Parameter-Vermeidung (Beispiele für Such-Parameter verhindern) Disallow: /*?sessionid= Disallow: /*?utm_source= Disallow: /*?utm_medium= Disallow: /*?utm_campaign= # Crawl-Delay (optional bei Last-Problemen, hier aber NICHT gesetzt) # Crawl-delay: 5 # Weitere Botspezifische Anweisungen (Beispiel: Blockiere BadBots direkt hier) User-agent: MJ12bot Disallow: / User-agent: AhrefsBot Disallow: / User-agent: SemrushBot Disallow: / User-agent: DotBot Disallow: / User-agent: BLEXBot Disallow: / # Ende der robots.txt