noindex

noindex — директива, запрещающая поисковикам включать страницу в индекс. Указывается через meta-тег или X-Robots-Tag заголовок.

noindex — единственный надёжный способ убрать страницу из выдачи. robots.txt блокирует только краулинг, а страница может попасть в индекс через внешние ссылки даже без снапшота. Если вы хотите чтобы страница не появлялась в Google и Яндексе — ставьте noindex.

<meta name="robots" content="noindex, follow" />

См. также

noindex — SEO-словарь