AI-crawlcheck

Gratis tool · AI-crawlcheck

Kunnen AI-bots jouw website lezen?

Taalmodellen zoals ChatGPT en Perplexity kunnen je bedrijf alleen aanraden als hun bots je website kunnen lezen. Deze test controleert in een paar seconden of dat lukt, en wat er eventueel in de weg zit.

Vul de homepage of een belangrijke dienstpagina in. De test duurt meestal 5 tot 15 seconden. We bewaren alleen welk webadres getest is, niet wie het test.

Wat de test controleert

Of je robots.txt de bots van OpenAI, Anthropic, Perplexity, Google, Microsoft en andere aanbieders toestaat. Of je server die bots echt doorlaat. Of je tekst zonder JavaScript leesbaar is. En of instellingen zoals noindex of nosnippet je pagina afschermen.

Wat de test niet zegt

Toegang is een voorwaarde, geen garantie. Of een taalmodel je bedrijf noemt wanneer een klant om advies vraagt, hangt af van veel meer: je inhoud, je reputatie en wat andere bronnen over je schrijven. Een eerste beeld geeft de gratis scan. Het volledige beeld meten we in de AI Visibility Scan.

Veelgestelde vragen

Moet ik trainingsbots toestaan?

Dat is een keuze. Bots zoals GPTBot en CCBot verzamelen tekst om nieuwe modellen te trainen. Volgens de aanbieders heeft het blokkeren ervan geen invloed op hun zoekfuncties, want die gebruiken eigen zoekbots, zoals OAI-SearchBot.

Mijn robots.txt staat alles toe. Waarom zegt de test dan dat een bot wordt geweigerd?

Dan zit de blokkade meestal in een firewall, bij je hosting of in een Cloudflare-instelling die AI-bots tegenhoudt. robots.txt is een verzoek; een firewall is een deur die dicht zit.

Wat is llms.txt?

Een voorgesteld tekstbestand met een samenvatting van je site voor taalmodellen. Het is optioneel. Er is nog geen aangetoond effect op zichtbaarheid, dus de test meldt het alleen ter informatie.