بر اساس گزارش تحقیق وایرد (Wired)، شبکه‌ای متشکل از بیش از ۴۰۰ دامنه و اپلیکیشن مرتبط کشف شده است که قابلیت‌های مخرب و پنهانی دارند. این اپ‌ها که ظاهراً توسط یک سازمان چینی واحد ساخته شده‌اند، در اپ استور (App Store) اپل و گوگل پلی استور (Google Play Store) نیز در دسترس بوده‌اند. کاربران می‌توانند با بارگذاری عکس، دیپ‌فیک‌های (Deepfake) جنسی و خشونت‌آمیز تولید کنند؛ محتوایی که ممکن است برای تحقیر یا تهدید قربانیان به کار رود.
پنهان‌کاری زیر پوشش اپ‌های روزمره
برخی از این اپ‌ها مانند Viefur ظاهراً برای افزودن لباس به عکس حیوانات خانگی معرفی شده‌اند و بسیاری دیگر خود را سرویس‌هایی روزمره مانند آموزش زبان یا مربی تمرین هوش مصنوعی جا می‌زنند. اما در شرایط مشخص، این اپ‌ها به‌صورت پنهانی یک رابط وب بارگذاری می‌کنند که تولید تصاویر و ویدئوهای جنسی صریح با هوش مصنوعی را از عکس‌های بارگذاری‌شده کاربر ممکن می‌سازد. در این شبکه، صحنه‌هایی مانند «تجاوز در اتاق خواب» و «چاقوی تهدیدآمیز» نیز وجود دارد؛ از جمله صحنه‌ای که مردی چاقو را روی گردن زن نگه داشته است.
عبور از بازبینی با فریب و فعال‌سازی پنهان
این اپ‌ها برای عبور از بازبینی اپ (App Review) از تاکتیک فریب و جابه‌جایی (Bait-and-Switch) استفاده کرده‌اند. آن‌ها در حالت عادی محتوای بی‌خطر نشان می‌دهند، اما یک بررسی سرور (Server Check) می‌تواند قابلیت‌های پنهان را فعال کند. به نظر می‌رسد یکی از محرک‌های این فعال‌سازی، دانلود اپ پس از کلیک روی تبلیغ قابلیت دیپ‌فیک در پلتفرم‌های متا (Meta) است. سپس ده‌ها قالب عکس و ویدئوی پورنوگرافیک قابل دانلود می‌شود و کاربر با خرید اعتبار (Credits) می‌تواند از عکس‌های بارگذاری‌شده خود دیپ‌فیک بسازد. برخی از این اپ‌ها حدود یک سال در دسترس بوده و با وجود سیاست‌های صریح اپل، گوگل و متا علیه محتوای دیپ‌فیک آسیب‌زا، از بازبینی آن‌ها عبور کرده‌اند. هزاران تبلیغ ویدئویی این اپ‌ها نیز در فیس‌بوک و اینستاگرام منتشر شده است.
واکنش اپل و متا
اپل پس از آنکه وایرد جزئیات این اپ‌ها را در اختیارش قرار داد، ۱۹ اپ را حذف کرد. اپل در بیانیه‌ای اعلام کرد که هر اپ را پیش از انتشار بررسی می‌کند و این اپ‌ها در زمان بازبینی با قوانین آن مطابقت داشته‌اند؛ اما پس از تأیید، توسعه‌دهندگان وب‌سایتی را که اپ محتوای خود را از آن دریافت می‌کند تغییر داده و محتوای تأییدشده را با محتوای پورنوگرافیک جایگزین کرده‌اند و آن را از طریق تبلیغات پورنوگرافیک میزبانی‌شده در یک پلتفرم شخص ثالث تبلیغ کرده‌اند. به گفته اپل، این شرکت اخیراً محافظت‌های خود را در برابر این روش تقویت کرده است. متا نیز می‌گوید علیه بیش از ۱۰٬۰۰۰ حساب تبلیغاتی مرتبط با دامنه‌های این اپ‌ها اقدام کرده است.