Как проверить факты в ответе ИИ, прежде чем отправить дальше

Ответ звучал убедительно: точная цифра, ссылка на исследование, готовая цитата для клиента. Письмо ушло, а через день выяснилось, что исследования с таким названием не существует. Уверенный тон текста не связан с тем, насколько он точен — это разные вещи, и путать их дорого стоит.

Числа и цитаты — отдельная проверка

Любая цифра, дата или ссылка на источник из ответа модели требует отдельной проверки — не «звучит правдоподобно», а найти оригинал и сверить. Если источник не находится за пару минут поиска, считайте его выдуманным, пока не доказано обратное. Отдельно проверяйте прямые цитаты: модель может приписать реальному человеку слова, которых он не говорил.

Уверенный тон — не признак точности

Модель одинаково уверенно формулирует и проверенный факт, и полную выдумку. Настораживать должна не неуверенность, а слишком гладкая, без единой оговорки, подача сложной темы. Попросите модель отдельно перечислить, что она не проверяла и в чём не уверена — список получится короче, чем кажется, но он покажет, где смотреть внимательнее.

Чек-лист для повторяющихся задач

Если задача повторяется — например, еженедельная сводка или ответы на типовые вопросы — заведите короткий список: какие поля в ответе всегда проверяются вручную, а какие можно принимать без сверки. Обновляйте список после каждой найденной ошибки, а не заново придумывайте проверку каждый раз.

Окончательную ответственность за факты несёт человек, который публикует текст, а не инструмент, который его составил.