wordpress
robots.txt fájl - tartalmazza a szabályokat kereső robotok indexelése a webhelyen.

RÉSZLETES LEÍRÁSA robots.txt szintaxist HELP Yandex
robots.txt fájl egy egyszerű szöveges formátumban kerül a lovag mappakiszolgálói - általában a www mappában. A legkisebb változat tartalmának robots.txt:
User-agent: * - a jelentések, hogy az írott szabályok az alábbiakban alkalmazni minden botok.
Ha azt szeretnénk, hogy szabályokat hozzanak létre egy speciális bot, majd adja meg a nevét, például, az összes botok Yandex:
Disallow: / kategória - ban létesítmény szakasz indexelés. Legyen óvatos, mert egy ilyen tilalom azt jelenti, tiltás indexelés minden kezdődik / kategória, például / kategória / üzleti, / kategória / üzleti / raschet_dohoda stb
Host: site.ru - milyen domain tekinthető a fő tükör telek és az indexet, hogy a kiadatást.
Beállítás robots.txt wordpress verzió 3.5.1+
Egyes platformokon robots.txt generált programból, így nem találják meg a gyökérkönyvtárban a helyén, és ha ehhez még hozzáadjuk azt a saját, akkor valószínűleg nem fog működni. Például a wordpress verzió 3.5.1 függvény, amely létrehoz egy txt fájl ebben: www / wp-includes / functions.php. Ezért, hogy a változtatásokat kell írni egy kis kódot. Hogyan kell ezt csinálni később.
7. Ha szükséges, adjunk hozzá a tilalom az indexálás az egyéb szolgáltatási mappák vagy oldalak, például: