Как составлять файл robots.txt и sitemap.xml для мультиязычного сайта (подпапки)?

Ответ

Файл robots.txt

Для мультиязычного сайта нужно убедиться, что вы не блокируете доступ к любой из языковых подпапок и поисковики смогут обнаружить и проиндексировать контент на всех языковых версиях вашего сайта.

Пример файла robots.txt:

User-agent: *
Disallow: /admin/
Allow: /en/
Allow: /fr/
Sitemap: https://site.com/sitemap.xml

Файл sitemap.xml

Для мультиязычного сайта крайне важно включить в sitemap.xml url-адреса всех версий каждой страницы. Это можно сделать, используя теги <loc> для указания url-адреса страницы и теги <xhtml:link> для указания альтернативных языковых версий. Эти теги должны содержать атрибуты rel=»alternate», hreflang=»код_языка» (где код_языка — это код языка по стандарту ISO 639-1, например, en для английского, fr для французского) и href=»URL версии_на_этом языке».

Пример sitemap.xml для мультиязычного сайта:

<url>
    <loc>https://site.com/en/page1</loc>
    <xhtml:link rel="alternate" hreflang="en" href="https://site.com/en/page1"/>
    <xhtml:link rel="alternate" hreflang="fr" href="https://site.com/fr/page1"/>
  </url>
 <url>
    <loc>https://site.com/fr/page1</loc>
</url>
  <url>
    <loc>https://site.com/fr/page1</loc>
    <xhtml:link rel="alternate" hreflang="fr" href="https://site.com/fr/page1"/>
    <xhtml:link rel="alternate" hreflang="en" href="https://site.com/en/page1"/>
  </url>

Еще по теме:

• Как влияет на продвижение ссылка на HTML карту сайта в подвале всех страниц?
Специалисты по SEO советуют сделать HTML карту сайта и добавить ссылку на нее с главной страницы. Не будет ли "вредно" для сайта установить эту ссылку...
• Как правильно создать карту сайта для мультиязычного сайта?
Как создавать для мультиязычного сайта карту сайта (Sitemap.xml)? Нужно ли добавлять какие-то нестандартные теги или атрибуты или для каждой языковой версии нужна своя карта сайта?...
• Как обновлять sitemap для сайта с языковыми версиями на подпапках?
Как обновлять sitemap для сайта с языковыми версиями на подпапках? У нас и так довольно большие объемы карт сайтов (под 200К ссылок в общем), сейчас...
• Надо ли делать отдельные файлы роботс и сайтмап для поддоменов?
Нужно ли делать отдельные файлы роботс и сайтмап для поддоменов? Ответ Так как сайт на поддомене – это по факту отдельный сайт, то да, необходимо...
• Как часто нужно обновлять Sitemap в GSC?
Как часто нужно обновлять Sitemap в Google Search Console? Ответ Обновления файла Sitemap необходимо производить сразу после создания новых страниц на сайте и открытии их...

---

Наталия С.

nataliia.s@siteclinic.ru

Оцените мою статью: 

(Пока оценок нет)