Як зупинити ChatGPT, щоб він не вигадував?

3. Вимагайте цитати та відстежуваність

Попросіть ChatGPT наводити конкретні джерела для кожного твердження, включно з URL-адресою або посиланням на документ . Зверніть увагу: самі цитати також можуть бути галюцинаціями, тому ставтеся до них як до тверджень, які потрібно перевірити, а не як до доказу . Тим не менш, вимога відстежуваності підштовхує відповіді до більш структурованого формату, що ґрунтується на джерелах .

4. Розбивайте складні запитання на прості та прямі

Замість одного широкого запитання поставте серію вузьких підзапитань . Звуження завдання зменшує ступені свободи моделі, роблячи її менш схильною до генерування необґрунтованого вмісту . Наприклад, замість "Які наслідки зміни клімату?" поставте три конкретні запитання про температуру, рівень моря та сільське господарство.

5. Використовуйте персону та чіткі обмеження

Визначте чітку роль і забороніть розмиті терміни . Приклад: "Ви — науковий асистент. Використовуйте лише інформацію з наданого мною документа. Якщо відповіді немає в документі, скажіть 'Не вказано'.'" Чіткі поведінкові обмеження утримують модель у рамках наданого контексту .

6. Вимагайте багатоетапної верифікації

Додайте мета-підказку: "Перш ніж відповісти, перевірте кожне фактичне твердження за наданими джерелами та позначте все, що не можете підтвердити." Це спонукає модель до самоперевірки перед виведенням тексту . Прохання показати модель свої міркування або джерела дозволяє вам перевірити її твердження, але не повинно замінювати вашу власну перевірку .

7. Завжди перевіряйте критичні твердження самостійно

Ставтеся до кожного конкретного фактичного виводу — дат, статистики, імен, законів, медичних чи фінансових даних — як до гіпотези, яку потрібно перевірити, а не як до висновку, якому можна довіряти . Використовуйте незалежні джерела, щоб підтвердити важливі твердження, перш ніж діяти на їх основі. Поставте те саме запитання трохи інакше в інший час; непослідовні відповіді є сильною ознакою галюцинації .

Що не працює надійно

• Просте запитання "Ти впевнений?" є слабшим за запит джерел, доказів, відмови чи чітких кроків верифікації .
• Покладатися на цитати, не перевіряючи їх, ризиковано — до самих цитат слід ставитися як до тверджень, які потребують перевірки .

Ключове застереження

Галюцинації не можна повністю зупинити; мета — зменшення шкоди, а не усунення . Поєднання кількох технік — прив'язки до документів, підказок про відмову, вимог до цитування та ручної верифікації — забезпечує набагато сильніший захист, ніж покладання на будь-який окремий метод .