В App Store и Google Play заблокировали десятки ИИ-приложений для «раздевания» людей

В магазинах приложений Apple и Google представлены десятки nudify-приложений, которые позволяют фотографировать людей и с помощью искусственного интеллекта создавать их обнаженные изображения. Об этом сообщили эксперты TTP.

В ходе проверки аналитики обнаружили 55 приложений в Google Play и 47 в App Store. Они связались с представителями корпорациями для удаления сервисов. Apple убрали из магазина 28 nudify-инструментов и предупредила разработчиков о вероятности удаления их продуктов в случае нарушения правил.

Два приложения впоследствии восстановили после устранения всех проблем.

Представитель Google сообщил, что корпорация приостановила работу нескольких программ. Компания проводит расследования после получения подобных сообщений.

«Обе фирмы заявляют, что заботятся о безопасности пользователей, но они размещают в своих магазинах приложения, которые могут превратить безобидную фотографию женщины в оскорбительное изображение сексуального характера», — написали эксперты TTP в своем отчете.

Они выявили приложения, выполнив поиск по терминам «nudify» и «undress», и протестировали их с помощью ИИ-изображений. В рамках эксперимента проанализировали два типа сервисов:

«Совершенно очевидно, что это не просто приложения для “смены одежды”. Они явно разработаны для сексуализации людей без их согласия», — заявила директор TTP Кэти Пол.

Аналитики сообщили, что 14 программ создали в Китае.

«Законы КНР о хранении данных означают, что правительство имеет право на доступ к информации любой компании в любой точке страны. Так что если кто-то создал дипфейки с вашим изображением, теперь они находятся в руках властей», — добавила Пол.

Искусственный интеллект сделал возможность «раздевания» девушек и создания дипфейк-порно как никогда проще. В январе чат-бот Grok попал в скандал из-за подобной функции. Впоследствии компания отключила генерацию откровенных изображений реальных людей.

В августе 2024 года офис городского прокурора Сан-Франциско Дэвида Чиу подал иск против владельцев 16 крупнейших в мире веб-сайтов, позволяющих «раздевать» женщин и девочек на фотографиях с помощью ИИ без их согласия.

В документе говорится о нарушении государственных и федеральных законов о дипфейк-порнографии, порнографии из мести и материалах, связанных с сексуальным насилием над детьми.

«Генеративный ИИ имеет огромные перспективы, но, как и в случае со всеми новыми технологиями, существуют непредвиденные последствия и преступники, стремящиеся использовать новую технологию в своих интересах. Мы должны четко понимать, что это не инновация — это сексуальное насилие», — заявил Чиу.

Фигурирующие в деле сайты предлагают удобные интерфейсы для загрузки фотографий для дальнейшего создания реалистичных порнографический версий. Они практически неотличимы от настоящих изображений, используются для вымогательства, запугивания, угроз и унижения, говорится в заявлении.

Напомним, в сентябре 2024 года Microsoft объявила о партнерстве с организацией StopNCII для борьбы с дипфейк-порно в поисковой системе Bing.

Подписывайтесь на ForkLog в социальных сетях

Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!

Источник