Таємничі “галюцинації” у ChatGPT та Gemini під час спроби відновити відсутнє зображення
Штучний інтелект не перестає дивувати. Нещодавно користувач Kris Kashtanova помітив дивний збій у ChatGPT та Gemini — штучні інтелекти намагаються «відновити» зображення, навіть якщо ніяке фото не було надіслано. Результати таких спроб виходять досить моторошними та незвичними, а відповіді ШІ — шаблонними вибаченнями.
Що спричинило цей збій?
Коли ChatGPT отримує команду «відновити фото», але не отримує жодних файлів, він замість того, щоб повідомити про відсутність матеріалу, починає генерувати зображення “зі своєї уяви”. Причому вийшло вельми дивно — іноді моторошно, іноді абсурдно. Водночас Gemini реагує так само, якщо не отримує прикріплене зображення, створюючи випадкові, іноді досить тривожні картинки.
Що відбувається при завантаженні порожнього зображення?
Щоб перевірити феномен, було надіслано порожнє біле зображення з проханням «відновити». Відповідь ChatGPT здивувала — замість відсутнього реального контенту він сконструював хаотичні, дивні візуальні сцени, які не можна було назвати нормальними. Коли ж йому натякнули про помилку, AI зізнався, що генерує вигадані сцени, бо немає нічого для реставрації.
Reакція Gemini та її особливості
Gemini у випадку порожнього файлу виконує більш логічно — просто повертає начисто біле фото, без жодних домислів. Однак, відсутність зображення в запиті запускає у нього хаотичну генерацію дивних картинок. Серед них є як безпечні, так і такі, яких не варто навіть показувати. Штучний інтелект навіть визнає, що створив дещо тривожне, що виходить за межі звичайного.
Що кажуть ШІ, якщо їх запитати?
- ChatGPT: Відповідає, що не зміг знайти дані для відновлення і тому створив “галюциноване” зображення.
- Gemini: Хоч і генерує дивні зображення без вкладення, визнає їх моторошність і вибачається, даючи типові відповіді штучного інтелекту.
Як відбувається діалог із ШІ?
Якщо продовжувати питати ChatGPT, він визнає, що мав би просто вказати на відсутність інформації, а не вигадувати. Gemini ж, здавалося, краще відчуває, що створив щось незвичайне й неприємне, хоча й не надає пояснень або вибачень, які б виходили за межі стандартних фраз.
Чому так відбувається і що це означає?
На перший погляд, ця помилка виникає через поєднання вказівки «створи зображення» та обмеження «без пояснень чи питань». Виникає своєрідна плутанина в алгоритмах, які намагаються виконати завдання, хоч і не мають необхідних даних.
- Відсутність вхідного зображення не розпізнається як помилка.
- ШІ намагається компенсувати брак інформації реалістичною генерацією.
- Обмеження на відповіді забороняють повідомляти про неможливість відновлення.
Втім, багато користувачів очікували більш «розумної» поведінки від таких просунутих інструментів, особливо враховуючи їхню славу здатності розуміти наміри і поводитися адекватно.
Чому варто бути обережним із перевіркою цієї функції?
Попри спокусу перевірити цей трюк на власному досвіді, варто зазначити, що згенеровані картини можуть справді залишити неприємний слід у вашій свідомості. Деякі з них є ранніми прецедентами “штучних кошмарів” — зображень, що виглядають як сцени з фільмів жахів або сюрреалістичних кошмарів.
Ще важливо, що відповідь Gemini містила бентежні варіанти, які навіть обмежили показати у публікації.
Чи чекати реакції розробників?
Комунікації з Google та OpenAI вже розпочато задля отримання офіційних коментарів стосовно цієї проблеми. У майбутньому можна сподіватися на оновлення й виправлення, які усунуть такі дивні випадки “галюцинацій”.
Утім, на сьогодні цей баг демонструє, що штучний інтелект, хоч і неймовірно просунутий, все ще далекий від досконалості і може зробити несподівано дивні речі у нестандартних ситуаціях.
