Неймовірний рівень фейкових образів: як ШІ створює підроблені документи та скріншоти, що вводять в оману
Нещодавно з’явився глибокий фейк із Дональдом Трампом у TikTok, де він нібито готується до великого дня, тримаючи пензлик для макіяжу біля щоки. Це зображення, хоч і виглядає дуже реалістично, насправді — продукт штучного інтелекту. Відсутні типові ознаки фальшивки, як-от зайві пальці чи непідвладні фізиці ракурси, тож на перший погляд здається, що президент наносить бронзер.
Революція в генерації образів: потужність ChatGPT Images 2.0
Ця реалістична картинка створена новою версією модельного генератора зображень від OpenAI. ChatGPT Images 2.0, презентована минулого тижня, справді вражає — вона здатна породжувати фотоанімації, які виглядають помітно правдоподібніше за попередників. Хвиля таких фейкових образів вже накрила інтернет: від Трампа в TikTok до Джефрі Епштейна на Twitch. Автор створив безліч лякаючих фейків, серед яких іспанські політики, світові лідери з медичними проблемами, а також американські політики у нацистській атрибутиці.
Не лише публічні постаті: найреалістичніші фейки — це… документи
На диво, найбільш правдоподібні фальшивки не зображували знаменитостей, а документи й інші неочікувані речі:
- підроблені рецепти на опіоїди та ліки від СДУГ;
- фальшиві банківські сповіщення;
- пости у соцмережах;
- підроблені посвідчення особи та паспорти.
Новинка від OpenAI особливо вдало працює із зображеннями, на яких є тексти — раніше це завдання викликало складнощі у моделей, адже виведені написи виглядали недоладно. Натомість тепер усі вивіски, документи й написи виглядають чіткими і реалістичними, що значно посилює ефект підробки.
Переваги та обмеження нового інструменту
Проте є й неідеальні місця:
- Рецепти виглядають правдиво, але рукопис нагадує скоріше малюнок стилусом на планшеті, аніж справжній почерк ручкою.
- Згенерований посадковий талон до літака ніколи не пройде справжнє сканування — наприклад, штрих-код несправжній.
- Підроблені посвідчення можуть ввести в оману ресепшн готелів або охоронців, але в аеропорту їх, найімовірніше, розпізнають.
Несправності у деталях зустрічаються і у чеках — наприклад, правильна сума покупки супроводжується помилками у розрахунках податку.
Фальшиві скріншоти — новий інструмент шахрайства
Особливо вражають можливості створення підроблених скріншотів:
- Підроблені сповіщення про перекази у банку;
- Повідомлення від Wells Fargo про незвичну активність;
- Фальшиві Uber-чекі з деталями поїздок.
Такі зображення можуть значно спростити поширення схем фішингу: отримуючи дивний чек про поїздку, отже, людина може перейти за посиланням для “перевірки” і випадково передати свої дані шахраям. Однак у таких зображень все одно є помилки, наприклад, карта маршруту Uber не відповідає реальності, а автомобіль “пливе” по воді без мостів.
Історія шахрайств із допомогою технологій
Не вперше технології інструментують шахраї. Колись появою центру кольорових копірів і принтерів зламали стандарти захисту банкнот. Photoshop довгі роки допомагав людям маніпулювати фотографіями, але без швидкості і простоти теперішніх інструментів. Торік у звіті ФБР вперше з’явилася секція про шахрайство з використанням штучного інтелекту — збитки сягають близько мільярда доларів.
Серед класичних шахрайств зараз активно зростає підроблення звітів про витрати співробітників. OpenAI навіть зафіксувала випадок, коли шахраї видавали себе за адвокатів, використовуючи помилки моделей для створення фальшивого членського посвідчення у адвокатській асоціації. Як підсумок, вузькоспеціалізована фантазія шахрая — головний обмежувач для застосування таких технологій.
Як великі компанії реагують на загрозу?
OpenAI наполягає на політиці використання моделей лише у мирних та креативних цілях і стверджує, що вони мають багатоступеневий контроль для запобігання шахрайству. Але, на жаль, факти говорять про інше — такі бар’єри поки неефективні, особливо якщо врахувати, що метадані, які могли б допомогти визначити походження, легко вилучаються чи видаляються під час поширення.
Google теж намагається захиститися за допомогою вбудованих водяних знаків та системи виявлення SynthID. У тестах ця технологія працює досить ефективно, але навряд чи кожен користувач регулярно перевірятиме автентичність кожного зображення.
І тут постає гірка реальність: навіть якщо провідні AI-компанії посилять захист, відкриті моделі, доступні всім, залишають великі “діри” в екосистемі безпеки. Експерти з протидії шахрайству визнають, що за технологіями зазвичай ідуть злочинці — і вони майже завжди на крок попереду.
Чому це не лише про політику та новини?
Хоча зараз активно дискутують про глибокі фейки, що ставлять під сумнів політичні події чи скандали, справжня загроза прихована у простих побутових підробках:
- фальшиві банківські документи;
- підроблені медичні довідки;
- підроблені чеки;
- інші повсякденні фейки, що обманюють наших близьких.
Як приклад, зображення скріншотів з реалістичними вигаданими статтями провідних видань — від New York Times до Atlantic — можна згенерувати за лічені хвилини. Візуальний стиль і типографіка дотримані, а тексти відредаговані так, що здаються цілком достовірними. Проте звичайна перевірка через Google швидко виявить фальшивку.
Реальна ж небезпека — це апарат повідомлень і документів, які вводять в оману конкретних людей без зайвої уваги широкої публіки, маніпулюючи особистою довірою.
