Самый безопасный алгоритм: разбить ответ на утверждения, открыть источники, дойти до первоисточника, сверить с независимым источником и присвоить каждому пункту статус.
Да, генеративный ИИ может уверенно выдавать неверные сведения за факты — это часто называют AI hallucination, или «галлюцинацией» ИИ.