Vyhledávače.info » Poradna » SEO » Respektování nastavení v robots.txt

Respektování nastavení v robots.txt

Autor Zpráva
Marty
Člen
Zajímalo by mě, jak moc je respektováno nastavení v souboru robots.txt jednotlivými boty?

Mám-li v něm například:

User-agent: *
Disallow: /action.php?

Je šance, že tuto stránku navštíví bot nějakého vyhledávače?

Je mi jasné že spam boti zrovna tohle dodržovat nebudou, ale zajímá mě spíš jak to funguje u těch menších a né tak častých robotů (uvítám samozřejmě i další zkušenosti).

#1 Zasláno: 3.1.06 21:35

Marek Prokop
Moderátor
Google to bude chápat tak, že nemá indexovat žádné URL začínající na /action.php?. Samotné URL /action.php indexovat bude. Zdroj: Google Information for Webmasters.

Jyxo to bude chápat úplně stejně. Zdroj: Michal Illich v seo.nawebu.cz.

Seznam to zcela splete a nebude indexovat vůbec nic. Zdroj a zdůvodnění: Dušan Janovský v seo.nawebu.

#2 Zasláno: 3.1.06 22:10 - Změnil/a: Marek Prokop

Yuhu
Člen
Reaguji na Marka:
> Seznam to zcela splete a nebude indexovat vůbec nic.

Seznam nesplete nic a v tomto konkrétním případě indexuje totéž, co Google nebo Jyxo. Zřejmě došlo k nepochopení toho mého vysvětlení.

Seznam akorát dělá to, že v souladu s jedinou platnou specifikací usekává z pravidla otazník a vše za ním. Takže jsou pro něj zápisy

Disallow: /action.php?
a
Disallow: /action.php

totožné.

#3 Zasláno: 11.1.06 13:51

Marek Prokop
Moderátor
Dušane, děkuji za upřesnění, nicméně ani po něm se mi nezdá, že by Seznam v tomto konkrétním případě indexoval totéž co Google nebo Jyxo.

Omlouvám se za formulaci "Seznam to splete". Chápu, že Seznam postupuje podle striktního výkladu specifikace a tudíž v podstatě správně.

#4 Zasláno: 11.1.06 13:59

Marty
Člen
Děkuji za odpovědi a za objasnění situace. Pokud by měl někdo nějaké další zkušenosti s ostatními boty, rád je uvítám.

#5 Zasláno: 11.1.06 14:29

Pachollini
Člen
No, nezaindexuje třeba /action.phps ;-)

#6 Zasláno: 11.1.06 19:48

(lze používat BBCode, ne Textile)

Ochrana proti spamu. Napište prosím číslici čtyři:

Heslo zadejte, jen pokud jste registrováni.

TOPlist