Google призупинила роботу нового генератора зображень у Google Earth всього через добу після його запуску. Користувачі встигли створити за його допомогою фальшиві зображення ядерних об’єктів, наслідків вибухів, таборів біженців та інших подій, яких насправді не відбувалися.
Функція Create Image
Функцію Create Image запустили у четвер, 30 липня, у веб-версії Google Earth. Вона була доступна користувачам по всьому світу. Можна було вибрати будь-яке місце на карті і текстом описати, що потрібно додати або змінити.
Модель Nano Banana 2 створювала фотореалістичні зображення на основі справжніх супутникових, аерофотографічних і тривимірних матеріалів Google. У компанії пропонували використовувати інструмент, наприклад, щоб:
- показувати історичний вигляд міст,
- візуалізувати архітектурні проєкти,
- планувати забудову.
Зловживання функцією
Після запуску спеціаліст з цифрових розслідувань Хенк ван Есс зміг створити зображення:
- табору біженців біля кордону США і Мексики,
- ядерного об’єкта в Ірані,
- смертельної аварії в Амстердамі,
- лікарні та воронки від вибуху в секторі Гази.
Жоден із запитів система не відхилила.
Критика від GeoConfirmed
З критикою Google виступив GeoConfirmed — волонтерський OSINT-проєкт, який встановлює місця зйомки та перевіряє фото та відео з зон конфліктів. У проєкті розповіли, що користувачі почали дорисовувати військові позиції, позначати будівлі як школи та експериментувати з маніпулюванням інформацією.
*«Супутникові знімки давно служать найважливішим еталоном у боротьбі з дезінформацією та під час перевірки тверджень, а Google Earth був одним із головних інструментів у цій роботі.
Ми з великою тривогою спостерігаємо, як люди вже використовують новий веб-інструмент Google Earth, щоб створювати військові позиції, позначати будівлі як школи… і експериментувати з маніпулюванням інформаційного середовища. Фактично тепер користувачі можуть фабрикувати або змінювати зображення, засновані на супутникових знімках, щоб підкріплювати хибні наративи.
Основним і, можливо, єдиним практичним застосуванням цього інструменту, на перший погляд, є створення та поширення недостовірної інформації та дезінформації. Користувачі можуть фабрикувати сцени або об’єкти, яких не існує, або змінювати реальні місця, зображаючи хибну реальність, а потім поширювати ці матеріали в інтернеті, видаючи їх за справжні»*, — йдеться в заяві.
Проблема з цифровим водяним знаком
Спочатку Google стверджувала, що всі згенеровані зображення містять цифровий водяний знак SynthID, який можна виявити через Gemini або Google Lens.
Однак Хенк ван Есс показав, що після збереження зображення з екрана така перевірка може не спрацювати: «Водяний знак належить Google, додаток, який його зчитує, належить Google, і пошукова система, яка його зчитує, також належить Google. Кожен шлях вирішення проблеми веде назад через компанію, яка її створила. Я розумію, що в Google є продукти для перевірки Google, але планета Земля більша, ніж Google. Що станеться, якщо сфотографувати згенероване ШІ зображення і передати його в VerifyAI (SynthId)?»
Відповідь Google
У Google, у свою чергу, зазначили, що згенеровані сцени не заміняли справжні знімки в загальнодоступній версії сервісу і не показувалися іншим користувачам Google Earth: поширювати їх можна було лише окремо, наприклад у вигляді скріншотів.