Предлагаем вашему вниманию наш перевод большого обзора службы новостей RaiNews итальянского общественного (государственного) вещателя Radiotelevisione italiana – Rai, выпущенного некоторое время назад (октябрь 2025 года), по тематике изображений, сгенерированных искусственным интеллектом (ИИ): как выявлять такие изображения, и почему они могут быть опасны. И далее перевод текста (в сокращении) указанного обзора RaiNews:

«За последние несколько лет инструменты генеративного анализа изображений стали настолько мощными и доступными, что трудно отличить реальные фотографии от фотографий, созданных искусственным интеллектом, особенно если просматривать такие изображения быстро и вне контекста. Например, сгенерированные ИИ фотографии, особенно с изображением белых людей, парадоксальным образом, как правило, воспринимаются как более реалистичные, чем реальные.

Ученые, опубликовавшие исследования на эту тему, назвали такое явление «гиперреализмом»: для обучения инструментов генеративного ИИ, данные модели себе в систему загружают так много фотографий (в основном с изображением белых людей), что выдаваемые затем в результатах фотографии, генерируемые ИИ, оказываются более совершенными, чем реальные фотографии. Или, по крайней мере, так их воспринимает человеческий мозг.

В то же время из-за рисков в работе ИИ, о которых говорится подробнее ниже, а также и из-за предвзятости моделей ИИ, что происходит несмотря на их периодическую перекалибровку, необходимы системы, способные различать реальные и вымышленные изображения (Перекалибровка ИИ — это процесс настройки искусственного интеллекта для устранения ошибок, исправления т.н. «галлюцинаций» или адаптации модели ИИ к новым условиям. Перекалибровка помогает сбалансировать точность выдачи ИИ Прим. Green.obob.tv).

При том, что технологии искусственного интеллекта постоянно и быстро развиваются. Так, сегодня менее чем за минуту, даже без навыков графического дизайна или анимации, просто предоставив текстовое описание, любой из нас может создать высококачественное видео, — например, видео человека, идущего по Марсу, что еще пару лет назад было немыслимо. Уже можно сказать, что сейчас мы живем в эпоху, когда каждый аспект нашей повседневной жизни тесно связан с ИИ. Но в то время как темпы технологического прогресса настолько высоки, уверены ли мы, что распространение информации и знаний одинаково широко распространено на всех уровнях общества (и, следовательно, изображения, сгенерированные ИИ, могут сразу распознаваться)? И учитывая, что это явление не может ограничиваться географическими границами, уверены ли мы, что даже внутри наших учреждений у нас есть средства противодействия этому вызову?

Как отличить настоящую фотографию от подделки?

Примеры из цитируемого здесь обзора RaiNews реального и сгенерированного искусственным интеллектом (ИИ), т.е. не существовавшего в природе, изображения человека. Слева – настоящее, а справа сгенерированное ИИ. При этом сгенерированное ИИ изображение кажется более реалистичным, чем настоящее.
Как указывается в этой связи в цитируемом обзоре RaiNews, «сгенерированные ИИ фотографии, особенно с изображением белых людей, парадоксальным образом, как правило, воспринимаются как более реалистичные, чем реальные.
Ученые, опубликовавшие исследования на эту тему, назвали такое явление «гиперреализмом»: для обучения инструментов генеративного ИИ себе в систему загружают так много фотографий (в основном с изображением белых людей), что выдаваемые затем в результатах фотографии, генерируемые ИИ, оказываются более совершенными, чем реальные фотографии. Или, по крайней мере, так их воспринимает человеческий мозг».

Поддельные, но правдоподобные фотографии существуют уже десятилетия. Но раньше такие поддельные изображения изготавливались по методу т.н. фотомонтажа. Теперь, в эру моделей ИИ, этот метод больше не востребован. Чем же отличается метод фотомонтажа от технологии создания изображений искусственным интеллектом? Фотомонтаж создаётся на основе реальных фотографий, в то время как искусственный интеллект генерирует изображения полностью с нуля, пиксель за пикселем, исходя из словесного описания.

Алгоритмы, используемые ИИ для создания изображений, называются алгоритмами преобразования текста в изображение, такие алгоритмы позволяют вводить текстовые инструкции (подсказки) для автоматической генерации изображений. Они существуют уже много лет, но качественный прорыв произошёл недавно, всего за несколько месяцев. Сегодня в Интернете не только множество онлайн-сервисов для создания синтетических фотографий, но и сами сервисы достигли такого уровня, что создание гиперреалистичной фотографии стало очень простым делом для любого.

Методы отличия настоящей фотографию от подделки

Самый мощный метод: рассуждение. Если вроде бы реалистичное изображение вызывает у нас удивление и при этом совершенно не соответствует нашему жизненному опыту или нашим знаниям по определенной теме, мы можем попытаться довериться своей интуиции и спросить себя, имеем ли мы дело с подделкой или нет.

Возьмем в качестве примера фейковое изображение, сгенерированое нейросетью в  2023 году и ставшее вирусным – изображение тогдашнего Папы Римского Франциска в белом пуховике (огромном пуховике оверсайз, напоминающем стиль современного франко-испанского бренда Balenciaga Прим. Green.obob.tv).

Возможно ли, что после столетий ношения традиционной одежды Католическая церковь решила принять моду последних лет? Ответ кажется очевидным, когда видишь данное поддельное фото Папы Франциска в пуховой куртке за 4000 евро от очень известного бренда.

Тем не менее, указанная фотография Папы Римского была одной из тех, что создали разрыв между «до» и «после» в истории генеративного искусственного интеллекта.

В марте 2023 года вышеуказанное изображение было в шутку опубликовано пользователем социальной сети Reddit и за несколько часов стало вирусным, сбив с толку миллионы пользователей по всему миру. Не все в мире знакомы с папскими облачениями, даже при том что некоторые детали на изображении были искажены, многие поверили, что фотография подлинная.

Не менее вирусной, хотя и по другим причинам, стала сгенерированная (в мае 2025 г. Прим. Green.obob.tv) искусственным интеллектом фотография президента США Трампа, одетого как Папа Римский, во время конклава, на котором был избран приемник Папы Римского Франциска Папа Лев XIV.

Несмотря на абсурдность двух описанных выше изображений для тех, кто знаком с контекстом, даже только и гиперреалистичный стиль и аномалии на этих изображениях должны были наводить на мысль, что они созданы искусственно…

Рассматриваемое в обзоре RaiNews фейковое, сгенерированное в марте 2023 г. искусственным интеллектом (ИИ), изображение тогдашнего Папы Римского Франциска в белом пуховике.

Рассматриваемое в обзоре RaiNews фейковое, сгенерированное в мае 2025 г. искусственным интеллектом (ИИ), изображение президента США Трампа в образе Папы Римского.

Одной из самых революционных технологий в области генерации изображений является GAN (Generative Adversarial Network, генеративно-состязательные сети). Эта модель обучается на миллионах реальных фотографий (например, человеческих лиц) и основана на противостоянии двух различных нейронных сетей: Генератора (фальсификатора, пытающегося создать реалистичные изображения) и Дискриминатора (полицейского, пытающегося определить, является ли изображение реальным или нет). В процессе обучения, соревнуясь друг с другом, обе сети постоянно совершенствуются, пока Генератор не создаст изображения настолько реалистичные, что они обманут даже человеческий глаз.

До 2022 года в области генерации изображений доминировали генеративно-состязательные сети (GAN), но самые передовые алгоритмы преобразования текста в изображение теперь в основном основаны на «диффузионном» подходе, вдохновленном законами физики. Чтобы объяснить это как можно проще, представьте себе каплю чернил, рассеивающуюся в стакане воды.

В процессе обучения модели ИИ предоставляется входное изображение (или реальное изображение), и её учат постепенно и случайным образом добавлять шум, пока изображение не превратится в набор неразличимых пикселей. В этом процессе модель учится предсказывать шум, добавляемый на каждом шаге; она не предсказывает само изображение напрямую. Затем, на этапе генерации, она выполняет обратную операцию: генерирует новые изображения из случайных шумовых образцов и пошагово применяет шумоподавление, пока не восстановит связное изображение, соответствующее текстовому описанию, предоставленному в качестве подсказки.

Несколько онлайн-сервисов предлагают бесплатные инструменты для определения подлинности изображения. Существует множество стратегий для определения подлинности изображений: от поиска «признаков» в метаданных до попиксельной оценки цветовых шкал, от распознавания используемой техники генерации до оценки согласованности движений изображенных объектов (в случае видео).

Парадоксально, но отличные результаты в различении реальных изображений от сгенерированных достигаются с помощью программного обеспечения, основанного на искусственном интеллекте и искусственных нейронных сетях (математических моделях, вдохновленных функционированием человеческого мозга). Эти инструменты, как правило, обучаются как на реальных, так и на синтетических фотографиях и выявляют детали, невидимые человеческому глазу, используя различные стратегии. Вот несколько примеров.

Метод обнаружения повторяющихся шаблонов. Системы распознавания изображений, сгенерированных искусственным интеллектом, учатся обнаруживать закономерности  — последовательности идентичных данных — и связывать их, подобно «подписи», с типом ИИ, который их сгенерировал. Повторяющиеся, часто микроскопические, статистические следы, цифровые артефакты и типичные «шумовые» паттерны, оставляемые генеративной сетью. Если провести аналогию с реальным миром, это как если бы каждая камера оставляла небольшое оптическое искажение на своих фотографиях. Даже если изображение кажется идеальным, хорошо обученный ИИ может как бы почувствовать, откуда оно взялось. Однако инструменты обнаружения регулярных шаблонов иногда ошибаются: RAI News провел эксперимент с одной из фотографий, которая является реальной, ИИ же определил её как, вероятно, сгенерированную искусственным интеллектом.

Метод обратного поиска изображений. Обратный поиск изображений — это метод, цель которого — отследить происхождение подозрительного изображения путем его отправки в поисковую систему. Современные поисковые системы позволяют анализировать визуальное содержимое изображения (цвета, формы, объекты, лица, текст и т. д.) и сравнивать его с миллионами других изображений в Интернете, выдавая те, которые кажутся похожими или идентичными. На этом этапе пользователь может получить более четкое представление о том, было ли изображение скопировано, изменено или является оригинальным.

Метод наблюдения и тщательного внимания к деталям. Искусственный интеллект совершает ошибки. И хотя по мере прогресса ИИ, эти ошибки становятся всё менее очевидными, однако при создании ИИ мультимедийного контента такие ошибки иногда, что называется, режут глаз и сейчас. Так, на некоторых фотографиях, сгенерированных ИИ, присутствуют странные, невероятные детали, такие как руки с шестью пальцами, уши или зубы искажённой формы, сюрреалистический фон.

Как можно объяснить такое явление? Дело в том что, что при создании изображения ИИ опирается на данные, на которых он «обучался», и если ему нужно изобразить руку в определенном положении и под определенным углом, для которых у него недостаточно информации, он пытается заполнить пробелы, создавая нечто «достаточно похожее». Однако он не обладает глубоким пониманием анатомической структуры; вместо этого он пытается воспроизвести визуальные паттерны, которые он изучил.

Эти ошибки можно также образно назвать «галлюцинациями», которые в случае генеративного ИИ представляют собой выдачу бессмысленных результатов и, по сути, являются следствием отсутствия у искусственного интеллекта реального понимания мира, каким мы его знаем. Ведь искусственный интеллект не знает истины, он подходит к делу технически, даже не понимая, что генерирует изображение! Его задача — создать последовательность пикселей, которая статистически наиболее вероятна на основе запроса пользователя и его обширного «архива» изображений. И это обычно работает. Но иногда нет, и тогда появляются ошибки.

Почему выявление изображений, сгенерированных ИИ, может быть важно, и какой вред могут нести такие изображения

Когда мы стараемся отличить реальное изображение от сгенерированного — это не просто игра, т.к. ненадлежащее использование отредактированных фотографий и вытекающее из этого распространение дезинформации, может иметь серьезные последствия. Например, в 2023 году многие поверили, что сгенерированное при помощи ИИ изображение взрыва в штаб-квартире военного ведомства США – Пентагоне, которое было распространено в социальной сети X (бывший Твиттер) фейковым аккаунтом BloombergFeed, являлось настоящим и действительно было опубликовано авторитетным новостным американским изданием Bloomberg. При этом дело осложнялось тем, что фейковый аккаунт BloombergFeed, с которого распространили указанное сгенерированное  изображение, имел т.н. «синюю галочку» подлинности акканута (с некоторых пор в социальной сети X можно было покупать указанные «синие галочки», и они говорили лишь о том, что владелец имеет премиальный платный аккаунт, и в данном случае галочка не означала, что BloombergFeed связан с изданием Bloomberg Прим. Green.obob.tv).

То фальшивое сообщение с фейковой картинкой о взрыве в Пентагоне быстро распространилось, и хотя оно было почти немедленно опровергнуто, успело вызвать панику среди людей и даже повлияло на котировки на фондовом рынке. Вскоре, однако, быстрое восстановление котировок после падения и блокировка фейкового аккаунта, благополучно разрешили вышеописанный инцидент.

Тем, не менее, данный инцидент еще раз указал на непреходящие последствия таких случаев, — последствия, которые следует учитывать: изображения несуществующих событий, мест или фактов могут подпитывать теории заговора или негативно влиять на общественное мнение. Подобные случаи даже могут вызывать полноценные фобии у людей, когда они будут считать, что везде только фейковые изображения. И это приводит к потере доверия и к реальным фотографиям и к авторитетным источникам, которые их публикуют.

Кроме того, постоянное воздействие гиперреалистичного, но искусственного контента, созданного ИИ, может оказывать значительное психологическое и когнитивное воздействие на людей, изменяя восприятие реальности и стандарты красоты, особенно среди молодежи, и затрудняя различение вымысла от реальности. К этому добавляются юридические риски: в настоящее время отсутствуют глобальные стандарты обязательной маркировки контента, созданного искусственного интеллекта, а цифровые водяные знаки, которыми сети ИИ помечают генерируемый ими контент, часто легко удаляются, создавая нормативный вакуум, затрудняющий защиту граждан, учреждений и предприятий.

Наконец, создание изображений с помощью ИИ поднимает вопросы, связанные с авторским правом и правами на изображения, поскольку оно может воссоздавать защищенные художественные стили, зарегистрированные бренды или лица реальных людей без их согласия, порождая юридические конфликты, к решению которых общество и законодательство в разных странах пока не подготовлены», передавало RaiNews.