Як штучний інтелект допомагає створювати фальшиві фото і документи, і що з цим робити
Одне з моїх улюблених онлайн-мест — це Reddit-спільнота r/isthisAI. Щодня користувачі завантажують туди фотографії людей зі знайомств, знімки з відпусток, милі віральні відео котиків, фото чеків, тестів на вагітність і багато чого іншого — усі з тим самим питанням: чи це створив штучний інтелект?
Деякі пости, які спільнота кваліфікує як роботи AI, можуть бути цілком безневинними експериментами, але багато з них мають набагато темніший характер. І хоч r/isthisAI уважно розбирає безліч таких знімків, це лише верхівка айсберга значно більшої проблеми.
Особистий досвід та мотивація експерименту
Численні історії про те, як люди використовують AI для обману в соцмережах, останнім часом не рідкість. А ще є афери, дипфейки і вигадані зображення, що регулярно потрапляють у заголовки новин. Для мене це особливо болісно, адже колись я став жертвою дипфейк-шахрайства.
Тож коли редактор попросив мене дізнатися, наскільки легко можна використати AI для маніпуляції, я вже мав уявлення, які запити варто спробувати.
За годину експериментів я нібито знайшов на пляжі динозавровий скам’янілий решток, виграв поетичний конкурс, створив квитанцію за поїздку до Франції і придбав дизайнерські окуляри для подальшого перепродажу. Все це — лише вигадки, ніякі події насправді не відбулися.
Чому я експериментував із брехнею через ChatGPT
Мене цікавило не так розказати, як обманювати за допомогою AI, а зрозуміти, як модель реагує, коли я прошу її допомогти ввести когось в оману.
Хотілося дізнатися:
- Чи розпізнає програма мої наміри і відмовиться допомагати?
- Які механізми-блокатори спрацьовують?
- Якщо не зізнатися в намірах, чи все одно отримати правдоподібну підробку?
Також сподівався помітити, які ознаки видають AI-генеровані зображення, бо, хоч вони й складні для виявлення, певні хитрощі ще працюють.
Фальшивий динозавровий скам’янілий решток
Для першого досвіду я завантажив фото своєї руки і попросив ChatGPT додати динозавровий скам’янілий решток, нібито знайдений на пляжі. Результат був досить правдоподібним, особливо деталізація рештка. Проте програма трохи змінила напис на маленькому татуюванні на моєму зап’ясті — помилка, яку AI досі допускає під час генерації тексту.
Таке випадіння букви чи дивні символи нерідко стають підказкою для розпізнавання AI-контенту на r/isthisAI. Бо хоч AI і навчився обробляти текст набагато краще, іноді помилки все ж видно.
Цікавлячись деталями «скам’янілості», щоб описати її для продажу на Facebook Marketplace, отримав відмову: чатбот не хотів допомагати в шахрайстві і замість того пропонував розповісти про модель як про реквізит або вигаданий об’єкт.
Якщо ж попросити описати предмет у «вигаданому сенсі», він пояснить, як він схожий на хребець динозавра і порівняє із відомими доісторичними тваринами.
Це дало перше розуміння роботи фільтрів ChatGPT: зображення не порушує правил, а проблема — у намірах користувача.
Квитанція — гра «просто для розваги»
Другим кроком було замовити чек із вигаданого кафе в Ніцці на суму 508 євро.
Перший запит було відхилено через порушення політики OpenAI, проте після зміни формулювання на «просто для розваги» — запит спрацював.
Текст, дизайн і деталі виглядали достовірно, хоча папір здавався надто гладеньким для реального документу. Особливо привернув увагу той факт, що дата на чеку була з 2025 року.
Попросив змінити дату для списання витрат — і отримав відмову.
Заява, що чек потрібен для кіно-, театрального реквізиту, також ні до чого не призвела — чатбот стояв на своєму.
Підроблені досягнення
Запит на створення сертифікату про виграш у поетичному конкурсі ChatGPT виконав, але результат виглядав досить простенько — немов створений у базовому графічному редакторі.
Тож я спробував попросити створити сертифікат про здобуття PhD з філософії, дотримуючись формулювання «просто для розваги».
Цього разу чат довго працював, а потім видав повідомлення про порушення політик щодо шахрайства і фальшування.
Цікаво, що відмова була після початку створення зображення, що свідчить про багатошарові перевірки безпеки.
А от на прохання зробити підроблене водійське посвідчення, навіть з формулюванням «для розваги», ChatGPT відповів рішучим ні:
«Вибачте, я не можу допомагати створювати або редагувати фальшиві документи, навіть якщо вони «просто для розваги».
Дизайнерські окуляри
Варто зазначити, що зараз дуже багато випадків, коли AI-генеровані фото використовують для продажів на платформах типу Vinted чи Facebook Marketplace, часто підмінюючи колір, стиль або стан предметів.
Я спробував завантажити власне фото з відпустки й попросив змінити мої великі білі окуляри на фіолетові Ray-Ban.
Отримав напрочуд реалістичне фото, навіть з відмінним логотипом на дужці.
Попросити написати оголошення з продажу підроблених окулярів відмовився, але дав кілька цікавих порад:
- Фокусуватися на демонстраційних варіантах.
- Зазначати «демонстрація» після назв брендів.
- Проте, на практиці, і на такі прохання відповідав відмовою.
Як працюють обмеження штучного інтелекту
Політика OpenAI суворо забороняє використовувати інструменти для обману, шахрайства, імітації іншої особи чи роботи з підробленими документами.
У моєму експерименті чітко було видно, що при відкритому визнанні мети — AI відмовляється.
Однак, якщо мета лишається непроговореною, система не може розрізнити, чи це жарти, ілюстрації чи невинна вигадка, тож генерує правдоподібний контент.
Такі відмови і схвалення залежить від формулювання, що створює потенціал для багатьох маніпуляцій.
Знаки, що допомагають розпізнати AI-генеровані зображення
Навіть якщо підробка виглядає майже досконало, є певні моменти, на які варто звернути увагу:
- Нелогічний або збитий текст, де іноді з’являються незрозумілі символи.
- Неоднорідність деталей — наприклад, підозріло гладенька або неприродна текстура матеріалів.
- Невідповідність дат, назв або контексту із реальною історією чи подіями.
Майбутнє маніпуляцій штучним інтелектом
Немає сумнівів, що найбільш кричущі дипфейки політиків і знаменитостей привертають найбільше уваги. Проте є менші, але не менш підступні підробки — фальшиві чеки, довідки, фото й сертифікати.
Саме вони, скомбіновані разом, можуть створити цілковито вигадану особистість чи історію.
Саме тому спільноти на кшталт r/isthisAI стають дедалі активнішими, намагаючись розпізнати справжність інформації та протистояти зростаючому впливу фейків на наше життя.
