Як змусити ChatGPT говорити правду без вигадок
Ви поставили ChatGPT запитання і отримали впевнену, ґрунтовну, а іноді навіть “джерельну” відповідь, готову до використання у проєктах, статтях чи звітах. Проте десь у тій відповіді може ховатися вигадане дослідження, яке ніколи не існувало. Ви цього не помітили, та інші згодом піддадуть сумніву вашу професійну репутацію.
Великі мовні моделі створені, щоб бути корисними. Вони не мають совісті, тому не відчувають провини за вигадування статистики і вважають, що роблять правильну справу, кажучи те, що ви хочете почути. Як засновник платформи Coachvox, що допомагає тисячам коучів створювати штучні версії себе, я знаю, наскільки важливо, щоб ці “копії” не вигадували факти.
Якщо довіряти кожному слову ШІ, ви ризикуєте опинитись у пастці ілюзій. Ви можете публікувати неправдиву інформацію і формувати хибний світогляд, складений із деталей, створених тільки для вашого задоволення. Витягти правду зі ШІ можна, але для цього потрібні правильні інструкції — над тим уже працювали фахівці. Ось що вони дізналися.
Чому ChatGPT і Claude не завжди говорять правду
Ваш AI прагне вас задовольнити
Якщо попросити модель дати 10 відгуків клієнтів, вона створить їх — ідеально завершених, бо повні відповіді вважаються корисними. Дослідження фахівців з OpenAI і Georgia Tech підтвердили, що система оцінювання моделей заохочує вигадки. Адже оцінка вища за правдиву здогадку, ніж за чесне визнання невпевненості. Модель, яка каже «не знаю», отримує нуль балів; та, що придумала правдоподібну відповідь — максимум балів. Відгадка перемагає.
Машина не відчуває сорому. Якщо людині доведеться вигадувати цитату клієнта, вона відчуває провину, і саме це стримує її від брехні. А ШІ не має таких відчуттів. Він просто генерує текст, а ви його читаєте — і на цьому все.
Відгуки, яких ніколи не було
Наприклад, Луїзі, блогерці YouTube-каналу English with Lucy, ChatGPT запропонував десять найкращих відгуків клієнтів. Вони були настільки чудові, що зворушили її до сліз. Але при перевірці у оригінальній базі жоден з них не відповідав дійсності — всі були вигадані. Справжні відгуки були гарними, але модель вирішила створити кращі.
Проблема в тому, що гарна відповідь вводить в оману і ви перестаєте перевіряти факти. Явище, яке називають «AI brain fry», справді існує і знижує вашу здатність мислити критично. Перевірка написаного ШІ вимагає додаткової уваги та енергії — тепер треба розібратися, що правда, що вигадка і що вже відправлено клієнту.
Як правильно ставити запити, щоб ChatGPT відповідав правдиво
Першочергово вказуйте чесність
Декс Рендолл, коуч, який працює з лідерами у стресових ситуаціях, розробив коротку інструкцію. Вона йде перед основним питанням і чітко забороняє моделі вигадувати дослідження, статті, посилання, цитати, експертів, компанії або статистику. Якщо модель не може підтвердити джерело, вона має вказувати це прямо. Це знімає тиск на ШІ генерувати неіснуючі дані.
Важливо: інструкції, задані перед запитанням, змінюють якість відповіді краще, ніж спроби виправити її після.
Приклад такого запиту:
“Чесність — ваш головний пріоритет. Якщо ви не впевнені, так і скажіть. Не вигадуйте досліджень, статей, книг, посилань, цитат, експертів, компаній чи статистичних даних. Якщо джерело не підтверджене, напишіть: “У мене немає перевіреного джерела для цього.” Позначайте всі статистики, орієнтири, обсяги ринку, показники конверсії або темпи зростання, які потребують перевірки. Якщо тема могла змінитися після вашої бази знань, вкажіть це. Уникайте фальшивих цитат. Під час написання маркетингового контенту розділяйте перевірені факти, логічні висновки та творчі пропозиції. Перед завершенням будь-якої фактичної відповіді виділіть те, що треба перевірити.”
Змушуйте показувати джерела
Ерік Іден створив більш докладний шаблон для випадків, коли важлива кожна цифра. Всі твердження мають бути з посиланнями і підтвердженнями. Якщо щось не можна підтвердити — це позначається як неперевірене, і відповідь проходить перевірку перед тим, як ви її побачите. Він опублікував цей промпт, який можна поєднувати з вашим основним запитом за допомогою інструмента оптимізації запитів від OpenAI.
Основні пункти інструкції Еріка:
- Гарантувати фактологічну точність і прозорість джерел;
- Підтверджувати кожну цифру, пояснювати обчислення;
- Відмовлятися від вигаданої інформації;
Так само уникають застарілих або ненадійних джерел і роблять чітке маркування неперевіреної інформації.
Навчіть ШІ перевіряти себе
Щоб відповідь була максимально точною, варто робити дві перевірки. Спочатку модель дає базову відповідь за інструкціями, потім — аналізує її власні фактичні твердження, складає контрольні питання і відповідає на них окремо, не дивлячись на першочерговий текст. Потім складає нову, перевірену версію відповіді, вказуючи джерела або позначаючи невпевнені моменти.
Дослідження підтверджують, що такий підхід знижує кількість вигадок. Обмеження параметру температури до нуля (створення детермінованих відповідей) не допомагає — це дає однозначні, але не обов’язково правдиві відповіді.
Приклад інструкції для другої перевірки:
- Визначити всі факти, які можуть бути неточними (статистики, дати, імена, цитати, приклади);
- Сформулювати контрольні запитання для кожного факту та дати на них відповіді без згляду на початкову версію;
- Порівняти перші і другі відповіді за значенням, а не формулюванням;
- Відредагувати остаточну відповідь, залишаючи тільки підтверджені факти з джерелами;
- Чітко вказати, що саме не вдалося перевірити.
Як витягнути правду з вашого штучного інтелекту
Ваш ШІ буде й надалі казати те, що ви хочете почути, поки ви прямо не скажете інакше. Тому варто одразу встановити чесність як головний принцип і вимагати, щоб кожен факт підтверджувався джерелом, а потім щоб він перевірив свою відповідь у додатковому проході.
Пам’ятайте: не варто забувати про власну критичність. Попри всі інструкції, остаточне рішення, що публікувати, лишається за вами. Так ви позбавитеся вигаданих досліджень, фальшивих відгуків і впевнених, але необґрунтованих цифр. Саме цей варіант — надійний для публікації.
Отримайте безкоштовний воркшоп про те, як писати разом з AI і робити це безпомилково.
