Бесплатный экспресс-аудит сайта Безопасность, SEO, AI-поиск и 152-ФЗ — отчёт с баллами за минуту Проверить сайт
Обсудить проект

Как проверить, видит ли нейросеть ваш сайт

Оценить статью

Прежде чем вкладываться в работы по AI-поиску, стоит выяснить простую вещь: сайт вообще читается? Бывает, что страница закрыта от краулеров, содержимое рисуется скриптом, а разметки нет — и тогда любые тексты пишутся впустую.

Шесть проверок ниже делаются за полчаса и не требуют доступа к серверу.

1. Отдаётся ли текст в коде страницы

Модели и краулеры читают HTML, а не то, что дорисовывает браузер. Откройте исходный код страницы (Ctrl+U) и поищите в нём абзац из середины текста. Нашёлся — хорошо. Не нашёлся — содержимое подгружается скриптом, и для краулера страница почти пустая.

Быстрее из консоли:

curl -s https://example.ru/uslugi/ | wc -c

Если страница с длинным текстом возвращает пару десятков килобайт, а на экране его заметно больше — это тот самый случай. Сайты на 1С-Битрикс обычно отдают текст в HTML, проблема чаще у одностраничников и приложений на фреймворках.

2. Пускает ли robots.txt AI-краулеров

Откройте example.ru/robots.txt и поищите упоминания ботов. Важно различать два типа: одни забирают тексты в обучение, другие читают сайт, когда пользователь задал вопрос, и дают ссылку в ответе.

БотЧейЧто делает
GPTBotOpenAIСобирает данные для обучения моделей
OAI-SearchBotOpenAIИндексирует страницы для поиска в ChatGPT
ChatGPT-UserOpenAIОткрывает страницу по ходу диалога с пользователем
ClaudeBotAnthropicОбучение; для поиска и запросов пользователя отдельные агенты
PerplexityBotPerplexityИндексирует страницы для ответов со ссылками
Google-ExtendedGoogleРазрешение на использование контента в ответах Gemini; на обычный индекс не влияет
CCBotCommon CrawlОткрытый архив, на котором учатся многие модели

Имена агентов меняются: компании добавляют новых и разделяют старых. Перед правкой robots.txt сверяйтесь с документацией самих сервисов, а не со статьёй годовой давности.

Отдельная ловушка — запрет обхода вместо запрета индексации. Если страницу нужно убрать из выдачи, закрывать её в robots.txt бесполезно: робот не зайдёт и не увидит запрета. Как это работает, разбирали отдельно.

3. Не блокирует ли краулеров защита

Антибот-сервисы и фильтры хостинга иногда отдают ботам 403 или капчу, хотя в robots.txt всё разрешено. Проверить можно так:

curl -s -o /dev/null -w "%{http_code}\n" -A "PerplexityBot" https://example.ru/

Ответ 200 — страница доступна. 403, 429 или редирект на проверку — краулер до содержимого не доберётся, и в ответах вас не будет независимо от качества текстов.

4. Есть ли разметка Schema.org

Разметка — это то, из чего модель понимает, что вы за компания, что продаёте и кто автор статьи. Найдите в коде страницы application/ld+json и посмотрите, что там за типы.

Минимум для коммерческого сайта: Organization с полем sameAs (ссылки на официальные профили), Service или Product на страницах предложений, BreadcrumbList в навигации, FAQPage там, где есть вопросы и ответы, Article с автором и датами в блоге. Проверить корректность можно валидатором Schema.org или инструментом проверки разметки в Яндекс Вебмастере.

Частая ошибка — размечать то, чего нет на странице. Разметка должна описывать видимое содержимое, иначе это повод для санкций, а не для расширенного сниппета.

5. Есть ли llms.txt и о чём он

Откройте example.ru/llms.txt. Файл необязательный, но если он есть, в нём должна быть карта ключевых разделов со ссылками и строка с адресом карты сайта. Пустой или формальный файл не вредит, но и не помогает.

6. Спросите модели про себя

Последняя и самая показательная проверка. Возьмите вопросы, с которыми к вам приходят клиенты, и задайте их нейросетям — по несколько раз каждый, потому что ответы нестабильны. Записывайте, кого называют и каким по счёту.

Мы прогнали четырнадцать своих вопросов через две модели: нас не назвали ни разу, зато регулярно называли крупных федеральных интеграторов. Подробный разбор, что из этого следует, — в материале про разницу между GEO и SEO.

Что делать с результатами

Первые пять проверок — техническая часть, она закрывается работами по сайту. Шестая показывает положение дел и обычно расстраивает: даже у исправного сайта упоминаний может не быть, потому что модели опираются на внешние источники.

Первые четыре пункта можно проверить сразу и без консоли — экспресс-аудитом по адресу сайта: он смотрит доступ краулерам, разметку, llms.txt и выдаёт балл по направлению AI-поиска. Работы по итогам делаем отдельной услугой, вместе с замером упоминаний до и после.

Статья была полезна?

Оцените первым — так другие читатели поймут, стоит ли читать

Частые вопросы

Стоит ли закрывать AI-ботов в robots.txt?

Зависит от того, чего вы хотите. Обучающие боты забирают контент в данные для обучения моделей и ничего не возвращают взамен — их закрывают те, кто защищает тексты. Поисковые боты приводят людей: они читают сайт в момент ответа и дают ссылку. Закрыв всех разом, вы одновременно отказываетесь и от обучения, и от показов в AI-ответах.

Почему модель называет конкурентов, а не нас?

Чаще всего потому, что о них написано вне их сайтов: обзоры, рейтинги, публикации, профили в каталогах. Модель собирает ответ из источников, а не из того, насколько аккуратно сделан ваш сайт. Техническая исправность — условие, чтобы вас могли прочитать, но не причина, по которой назовут.

Сайт на конструкторе. Проверки те же?

Те же, но часть правок недоступна: на некоторых конструкторах нельзя поменять robots.txt или добавить произвольную разметку. Тогда проверка хотя бы показывает границу: что исправимо на месте, а что потребует переезда.

Как часто повторять проверку?

Техническую часть — после каждого крупного изменения сайта и смены подрядчика. Замер упоминаний — раз в месяц: ответы моделей нестабильны, и по одному прогону вывода не сделать.

Правда ли, что без llms.txt сайт не попадёт в AI-ответы?

Нет. Файл необязательный, и ни одна крупная поисковая система не объявляла его обязательным условием. Он помогает модели сориентироваться в структуре сайта, но если текст не отдаётся в коде страницы или краулер закрыт, никакой llms.txt это не компенсирует.