Федеральная торговая комиссия США (Federal Trade Commission — FTC, государственное агентство США, регулирующее сферу торговли) выпустила 19 декабря сего года заявление, в котором объявила, что американской аптечной сети Rite Aid запрещено на пять лет использовать в системе видеонаблюдения в торговых точках этой сети технологию распознавания лиц с задействованием искусственного интеллекта (ИИ), которую сеть применяла для предотвращения краж.

Отметим, что Rite Aid — это третья по величине сеть аптек и аптечных магазинов в США. Еще около десяти лет назад Rite Aid начала разворачивать систему видеонаблюдения за покупателями с задействованием технологии распознавания лиц от компаний FaceFirst, DeepCam LLC и других поставщиков. При этом, как сообщается, данная аптечная сеть тестировала пилотную систему распознавания лиц с сетью подключенных камер видеонаблюдения примерно в 2020 своих торговых точках.

Федеральная торговая комиссия в упомянутом заявлении сообщает, что Rite Aid помощью системы видеонаблюдения за покупателями с задействованием технологии распознавания лиц при помощи ИИ «ложно помечала потребителей как соответствующих кому-то, кто ранее был идентифицирован как магазинный вор или другой нарушитель спокойствия». FTC заявляет, что такие действия Rite Aid «подвергли потребителей смущению, преследованиям и другому вреду. Компания не информировала потребителей о том, что использует эту технологию в своих торговых точках, а сотрудникам не рекомендовалось раскрывать такую ​​информацию. Сотрудники, действуя по ложным срабатываниям системы распознавания лиц, следовали за покупателями по магазину, обыскивали покупателей, приказывали им уйти, вызывали полицию, чтобы удалить таких покупателей, и публично обвиняли их, иногда перед друзьями или семьей, в краже в торговой точке или других правонарушениях, о чем поступали жалобы от покупателей». При этом технология распознавания лиц Rite Aid с чаще давала ложные срабатывания в магазинах, расположенных в общинах, где большинство составляют чернокожие и азиаты, чем в общинах, где большинство составляют белые», — заявляли в FTC. При этом, например, согласно данным FTC, в одном случае Rite Aid вызвали полицию в связи с чернокожим клиентом после того, как система отметила его лицо — несмотря на изображение в файле, на котором была изображена «белая женщина со светлыми волосами»

В вышеупомянутом заявлении Федеральной торговой комиссии говорится, что аптечной компании Rite Aid запрещено использовать вышеназванную технологию «в целях наблюдения» в течение пяти лет для урегулирования обвинений со стороны Федеральной торговой комиссии. Федеральная торговая комиссия обвиняет «ритейлера в том, что он не смог реализовать разумные процедуры и предотвратить вред потребителям при использовании технологии распознавания лиц в сотнях магазинов».

В заявлении проводятся следующие слова Сэмюэля Левина (Samuel Levine), директора Бюро по защите прав потребителей FTC: «Безрассудное использование Rite Aid систем распознавания лиц привело к тому, что ее клиенты столкнулись с унижением и другим вредом, а нарушения регламентов поставили под угрозу сохранность конфиденциальной информации потребителей. Нынешнее беспрецедентное распоряжение FTC в отношении Rite Aid ясно дает понять что Комиссия будет проявлять бдительность, защищая общественность от несправедливого биометрического наблюдения и некорректных методов защиты данных».

В заявлении Федеральной торговой комиссии упоминается жалоба, которая была подана со стороны FTC 19 декабря текущего года в федеральный суд, в которой Федеральная торговая комиссия заявила, что аптечная сеть Rite Aid «не приняла разумных мер для предотвращения вреда потребителям при использовании технологии распознавания лиц».

«Помимо прочего, Rite Aid не учла и не предусмотрела вполне заранее прогнозируемый вред для потребителей, возникающий в результате использования технологии распознавания лиц; не смогла протестировать или оценить корректность получаемого результата при использовании данной технологии; не смогла обеспечить соблюдение стандартов качества изображения, необходимых для корректного использования данной технологии; не приняла разумных мер для обучения и контроля сотрудников, которым поручено использовать эту технологию в магазинах Rite Aid», — говорится в жалобе FTC в судебный орган.

Федеральная торговая комиссия потребовала от Rite Aid «также удалить и поручить третьим лицам удалить любые изображения, которые были собраны с помощью системы распознавания лиц Rite Aid».

Казус с Rite Aid поднимает вопрос, всегда ли торговые сети корректно задействуют системы видеонаблюдения за покупателями, с использованием технологии распознавания лиц и ИИ, и не пора ли покупателям научится призывать торговые сети в к ответу случаях, если покупатели бывают оскорблены тем, как сети используют такие системы.

Иллюстративное изображение: торговый зал Rite Aid.