Прокурор Сан-Франциско Девід Чу надіслав Apple і Google офіційні листи-вимоги про припинення порушень – cease-and-desist, – зобов’язуючи компанії прибрати з App Store і Play Store кілька додатків для створення сексуальних дипфейків. Йдеться про застосунки, що маскуються під «інструменти для заміни облич», але насправді дозволяють генерувати оголені зображення реальних людей без їхньої згоди. Про це повідомляє 9to5Mac.
Офіс міського прокурора розслідував 13 додатків – вісім в App Store і п’ять у Play Store. Усі вони позиціонують себе як інструменти для «свопу облич», проте їхній основний функціонал – генерація сексуалізованих дипфейків – стає доступним після початку використання. Один із таких застосунків має понад мільйон завантажень: на його сайті представлено більш ніж дюжину стилів ШІ-зображень із описами на кшталт «bikini queen curvy», «calm busty» та «cinematic intimacy», а більшість із них супроводжуються сексуалізованими зображеннями жінок. Інший із таргетованих додатків відкрито рекламує створення «безкоштовних і нецензурованих» відео.
За словами Чу, обидві компанії «отримували прибуток від шкідливих технологій» і, ймовірно, «заробили мільйони доларів на комісіях» від цих застосунків – адже ті використовують внутрішньоапплікаційні платежі, з яких Apple і Google беруть відсоток. У листах зазначається, що законодавство Каліфорнії забороняє підтримку сервісів, що створюють дипфейк-порнографію. «Ці компанії несуть відповідальність за те, щоб додатки на їхніх платформах не сприяли сексуальному насильству. Те, що найбільші технологічні корпорації світу це допускають, – мусить припинитися», – заявив прокурор.
Видання Wired, яке першим повідомило про ці листи, свідомо не оприлюднило назви застосунків, щоб не залучати до них додаткової аудиторії. Представник Google заявив, що компанія реагує на повідомлення про порушення її правил, тоді як Apple не прокоментувала ситуацію до моменту публікації.
Це не перший випадок, коли App Store опиняється в центрі подібних скандалів. Ще в жовтні минулого року Tech Transparency Project опублікував звіт із десятками «nudify»-додатків в App Store, а вже в квітні з’ясувалося, що власні підказки пошуку та реклама Apple спрямовували користувачів саме до них. Тоді компанія запевнила 9to5Mac, що подібні застосунки порушують її App Review Guidelines, і що вона проактивно відхиляє та видаляє їх – зокрема за зверненнями через інструмент reportaproblem.apple.com. Однак, як свідчить нова перевірка, дієвість цих заходів залишається під питанням.
