Несмотря на запрет. Apple и Google продвигают приложения для раздевания людей с помощью ИИ

Apple и Google игнорируют запрет на приложения для «раздевания» людей

Компании Apple и Google продолжают размещать в своих магазинах приложения, которые создают обнажённые изображения людей или вставляют их в порнографические видео, несмотря на запреты. Некоторые из них помечены как подходящие для детей.

Об этом сообщает Tech Transparency Project. Исследователи отмечают, что через поисковые запросы «nudify» или «undress» можно найти программы, которые превращают фотографии людей в обнажённые изображения или добавляют их в видео сексуального содержания.

В отчёте говорится, что платформы фактически способствуют распространению инструментов для создания сексуализированных изображений. Кроме того, в результатах поиска появляется реклама таких приложений.

Эксперты обнаружили 18 подобных приложений в App Store и 20 в Google Play. Некоторые из них использовали сексуальные изображения для продвижения, другие рекламировались менее открыто, но всё равно позволяли создавать дипфейки. Общий доход от этих приложений составил около 122 миллионов долларов, а количество загрузок превысило 483 миллиона.

Руководитель проекта Кэти Пол подчеркнула, что проблема не только в недостаточной проверке программ со стороны компаний. Платформы сами направляют пользователей к таким приложениям.

Apple и Google имеют правила, запрещающие сексуальный или порнографический контент. Google отдельно запрещает приложения для «раздевания». Apple сообщила, что удалила 15 программ из списка исследователей, а Google заявила о приостановке работы некоторых из них.

Одно из приложений, Video Face Swap AI: DeepFace, рекламировалось за замену лица актрисы на тело другой женщины и позволяло вставлять лица реальных людей на тела частично обнажённых женщин. При этом оно было помечено как «для всех».

Распространение подобных программ заставляет правительства разрабатывать ограничения. В Великобритании предложили запретить приложения, которые создают обнажённые или сексуальные изображения детей с помощью искусственного интеллекта. В США и других странах уже обсуждают или вводят законы против откровенных дипфейков.

Google заявила, что не разрешает приложения с сексуальным контентом и проверяет нарушения. Компания уже заблокировала множество программ из отчёта и продолжает проверки.