GPTBot, ClaudeBot und PerplexityBot erlauben — Bolt
AI-Antwortengines zitieren nur Sites die ihre Bots laden dürfen. Wenn du GPTBot, ClaudeBot und PerplexityBot in robots.txt nicht erlaubst, bist du unsichtbar in ChatGPT und Perplexity — egal wie gut der Content ist.
In Bolt fixen
StackBlitz In-Browser AI-App-Builder mit WebContainers
Bolt-Projekte laufen in einem Browser-Container — File-Pfade sind echt, aber Deploy-Target variiert. Prompt unten in deinen Bolt-Chat einfügen und der Fix rollt in einem Rutsch über das ganze Projekt aus.
Anderes Tool? Wähle deinen Stack:
Der Prompt für Bolt
Diesen Text exakt so in deinen Bolt-Chat kopieren und einfügen.
In Bolt, please update my project with these exact changes: Allow AI crawlers 1. Open /public/robots.txt (create it if missing). 2. Add four blocks: `User-agent: GPTBot` / `Allow: /`, then ClaudeBot, PerplexityBot and Google-Extended — same pattern. 3. Do NOT add a global `User-agent: * / Disallow: /` — that overrides the bot-specific allows on some parsers.
Warum das wichtig ist
2024-2025 begann AI-Suche (ChatGPT, Claude, Perplexity, Google AI Overviews) echten Referral-Traffic zu senden — und wichtiger: der erste Ort zu werden wo User fragen stellen. Das alte Modell — in Google ranken, Klicks bekommen — wird ersetzt durch "in AI-Antwort zitiert werden, Traffic bekommen".
Jede grosse AI-Firma publiziert einen Crawler der robots.txt respektiert. OpenAI: GPTBot (Training) und ChatGPT-User (Live-Web-Search). Anthropic: ClaudeBot. Perplexity: PerplexityBot. Google: Google-Extended. Common Crawl (CCBot) powered viele Open-Source-Modelle.
Wenn du die Bots nicht explizit erlaubst, fallen sie auf "was auch immer User-agent: * sagt" zurück. Viele Sites shippen mit restriktiven Defaults und blocken versehentlich alles. Der Fix ist eine sechs-Zeilen-Allow-Liste — der höchste Hebel im GEO.
So nutzt du diesen Prompt in Bolt
- 1. Dein Bolt-Projekt öffnen.
- 2. Prompt oben mit Copy-Button kopieren.
- 3. In Bolt-Chat einfügen und senden.
- 4. Diff reviewen, Änderungen akzeptieren, neu deployen.
- 5. Fix mit der Checkliste unten verifizieren.
Typische Fehler vermeiden
- error_outlineAlle Bots mit `User-agent: *\nDisallow: /` blocken und Allow-Rules für AI vergessen.
- error_outlineNur GPTBot erlauben und andere vergessen — ChatGPT-Search und ChatGPT-Training nutzen verschiedene Crawler.
- error_outlineAI blocken wegen eines Blog-Posts der "AI-Crawler blocken" empfahl — kostet dich die AI-Suche-Sichtbarkeit.
- error_outlineAllow-Rules in falscher Reihenfolge — `User-agent: *` `Disallow: /` zuerst, dann spezifische Allows danach.
Wie du prüfst ob der Fix geklappt hat
- check_circle`/robots.txt` besuchen und prüfen dass die sechs User-agent-Blöcke existieren, je mit `Allow: /`.
- check_circleMit https://www.bing.com/webmasters/help/robots-txt-analyzer oder ähnlichen Tools testen.
- check_circleServer-Logs nach 1-2 Wochen auf GPTBot, ClaudeBot, PerplexityBot User-Agents prüfen — sollten erscheinen.
- check_circleIn ChatGPT mit Web-Browsing eine Query stellen wo du Zitate erwartest — checken ob du auftauchst.
Häufige Fragen
Trainiert OpenAI auf meinem Content wenn ich GPTBot erlaube?expand_more
Schadet AI-Crawler-Allow dem SEO?expand_more
Gibt es einen Nachteil?expand_more
Alle 34 Prompts passend zu deiner Bolt-Site?
Pantra scannt deine Site in 10 Sekunden, erkennt den Stack und generiert genau die Prompts die passen — nur die du brauchst.
Site scannenÄhnliche Bolt-Prompts
Robots.txt einrichten die Such- und AI-Crawler erlaubt — Bolt
Prompt für eine korrekte /public/robots.txt für Google, Bing und AI-Crawler wie GPTBot und PerplexityBot — in Lovable, Cursor, Bolt, v0, Replit, Windsurf, Claude Code, Base44.
AI-Suche / GEOllms.txt-Datei anlegen — Bolt
Stack-spezifischer Prompt um llms.txt zu publizieren — ein kuratierter Guide der LLMs sagt worum es auf deiner Site geht.
AI-Suche / GEOJSON-LD Structured Data setzen — Bolt
Prompt um Organization, Article und FAQ JSON-LD im <head> zu setzen — sagt Google und AI-Crawlern genau was die Seite repräsentiert.
AI-Suche / GEOServer-Side Rendering einbauen — Bolt
Stack-spezifischer Prompt damit Key-Content im HTML-Response landet, nicht nur per JS gerendert wird.