В последнее время компании Apple и Google оказались в центре общественного внимания из-за обнаружения сервисов, которые позволяют создавать откровенные изображения без согласия пользователей. По данным Tech Transparency Project, опубликованным в Bloomberg, эти приложения были загружены более 483 миллионов раз, что принесло разработчикам доход около 122 миллионов долларов.
Хотя такие приложения запрещены, они всё же появились в магазинах приложений App Store и Google Play. Они используют искусственный интеллект для создания контента, включая изображения известных людей. Некоторые из этих приложений продвигались в поисковых системах и через рекламу, что увеличивало их доступность.
Когда информация о таких приложениях стала известна, некоторые из них удалили из магазинов. Apple исключила соответствующие приложения и предупредила разработчиков, а Google заблокировала продукты, нарушающие правила. Однако приложения всё ещё доступны для пользователей.
Эксперты считают, что проблема заключается в модерации контента в магазинах приложений. Такие приложения часто маскируются под инструменты для обработки изображений и успешно проходят проверку. Их распространению способствуют алгоритмы поисковых систем и рекомендации в магазинах.
Ситуация усугубляется требованиями регуляторов ужесточить контроль над контентом и повысить ответственность платформ за его распространение.