Сьогодні поговоримо про те, як використовувати файл robots.txt. Але для початку давайте розберемося, для чого власне потрібен файл robots.txt? Файл robots.txt призначений для того, щоб вказати пошуковим роботам пошукових систем які файли і папки необхідно заборонити індексувати.
Гуляючи по інтернету, ви напевно часто помічали, що зайшовши на якийсь блог або сайт, можна побачити в адресному рядку зліва маленьку картинку. Це і є Favicon. Для початку давайте розберемося, що таке Favicon.
Вони повернулися. Не всі, певна річ, але ті, що з першої партії, залишилися. І що важливіше вони розмножилися.
У природному заповіднику Елмлі у графстві...