Центральный англоязычный отдел новостей Британской вещательной корпорации BBC на днях выпустил сообщение, посвященное проблеме идентификации изображений, созданных искусственным интеллектом. Такая идентификация, как известно, необходима для того, чтобы пользователи могли понимать, например, реальное ли событие запечатлено на том или ином фотоизображении, или какая-либо фотография — плод фантазии искусственного интеллекта. И далее предлагаем, с небольшими сокращениями, пересказ упомянутого сообщения BBC:

«Технологический гигант Google тестирует цифровой водяной знак, который будет наноситься на изображения, созданных искусственным интеллектом (ИИ), а (иначе говоря) идентифицировать изображения, созданные машинами, в попытке бороться с возможным введением пользователей в заблуждение насчет происхождения таких картинок.

Идентификатор SynthID — цифровой водяной знак, который будет применяться Google при нанесении пометки на изображения, созданных ИИ, был разработан (базирующейся в Лондоне исследовательской лабораторией Прим. OBOB.TV) Google DeepMind, являющейся дочерней компанией Google, специализирующейся на разработках в области искусственного интеллекта. SynthID внедряется не на само изображение, а в его отдельные пиксели, и поэтому этот энак невидим для человеческого глаза, но обнаруживается компьютерами. При этом в лаборатории DeepMind заявляют, что даже SynthID не даст стопроцентной гарантии защиты «от экстремальных манипуляций с изображениями».

По мере развития технологий, становится все сложнее отличить реальные изображения от искусственно созданных. Генераторы изображений с использованием искусственного интеллекта становятся мейнстримом. Так, Midjourney, — популярным инструментом, создающим изображения по текстовым описаниям при помощи технологии искусственного интеллекта, пользуются 14,5 миллионов человек. Подобные инструменты позволяют людям создавать изображения за считанные секунды, при том что пользователям достаточно перед этим ввести только простые текстовые инструкции с описанием того, что они хотят, чтобы было изображено.

Такая простота при создании изображений уже привела к возникновении вопросов с авторским правами (Здесь следует пояснить, что искусственный интеллект создает свои изображения по описаниям пользователей не на пустом месте, а используя иллюстрации, на которых он обучался. А у этих иллюстраций есть авторы Прим. OBOB.TV).

У Google имеется собственный генератор изображений под названием Imagen, и его система создания и проверки водяных знаков будет применяться только к изображениям, созданным с помощью этого инструмента.

Водяные знаки обычно представляют собой логотип или текст, добавляемый к изображению, чтобы заявить право собственности, а также частично для того, чтобы затруднить копирование и использование изображения без разрешения. Например, такой водяной знак присутствует на изображениях, используемых на BBC News, новостийном веб-сайте Британской вещательной корпорации BBC, помещаясь в левом нижнем углу. Но такие водяные знаки не подходят для идентификации изображений, созданных  ИИ, поскольку их можно легко отредактировать или обрезать.

Поэтому технологические гиганты также внедряют технику, называемую хешированием, для создания цифровых «отпечатков пальцев» при публикации в Интернете роликов на чувствительные темы — например, роликов с изображением сцен насилия. При помощи «отпечатков пальцев» помеченные ими ролики можно быстро обнаружить и быстро же удалить, если они начнут распространяться в Интернете. Но и такие отпечатки пальцев» тоже могут быть повреждены, если видео будет обрезано или отредактировано.

Пушмит Кохли (Pushmeet Kohli), руководитель исследовательского отдела DeepMind.

Однако создавая SynthID, компания Google создает практически невидимый водяной знак, который позволит людям при помощи гугловского программного обеспечения мгновенно узнать, настоящее ли то или иное изображение, или оно создано машиной.

Пушмит Кохли (Pushmeet Kohli), руководитель исследовательского отдела DeepMind, рассказал Британской вещательной корпорации BBC, что разработанная его лабораторией эта система настолько тонко внедряет водяные знаки на изображения, «что для нас с вами, для людей, ничего визуально не меняется».

В то же время, по словам Кохли, в отличие от хеширования, даже после того, как изображение с водяным знаком, нанесенным по гугловской технологии от DeepMind, впоследствии будет обрезано или отредактировано, всё равно можно будет определить наличие водяного знака.

«Вы можете изменить цвет, контрастность, даже размер изображения, но все равно (с помощью технологии от DeepMind) можно будет увидеть, если изображение было сгенерировано ИИ», — говорит Кохли.

При этом Кохли заявил, что технология знака от DeepMind будет дорабатываться уже в процессе  использования, т.к.  это только «экспериментальный запуск» системы, и компании нужно, чтобы люди использовали ее, чтобы узнать больше о том, насколько она надежна.

Пример изображения, созданного искусственным интеллектом,  с нанесенным на данное изображение незаметным  для человеческого глаза идентификатора SynthID.

В июле текущего года Google была одной из семи основных компаний, ведущих разработки в области искусственного интеллекта, подписавших в США добровольное соглашение, которое предусматривает безопасную разработку и использование ИИ, включая в себя и обеспечение того, чтобы люди могли распознавать компьютерные изображения, созданных ИИ, путем внедрения на них водяных знаков.

Пушмит Кохли говорит, что разработка DeepMind технологии водяного знака следует из обязательств, принятых Google по вышеупомянутому соглашению…

Microsoft и Amazon также входят в число технологических гигантов, которые, как и Google, обязались размещать водяные знаки на некоторых видах контента, созданного искусственным интеллектом.

В свою очередь, компания Meta ( (признана в РФ экстремистской организацией и запрещена Прим. OBOB.TV) опубликовала комментарии по поводу своего не выпущенного официально видеогенератора Make-A-Video, в которой говорится, что к сгенерированным видео будут добавляться водяные знаки, чтобы удовлетворить требования к прозрачности в отношении работ, созданных искусственным интеллектом.

В начале этого года Китай полностью запретил сгенерированные искусственным интеллектом изображения без водяных знаков, в то время как китайская компания Alibaba стала размещать водяные знаки на изображениях, созданных с помощью инструмента преобразования текста в изображения Tongyi Wanxiang, разработанного данной компанией», передавала Британская вещательная корпорация BBC.