דו"ח חריף של ארגון ה-TTP (Tech Transparency Project), חושף כי למרות הצהרותיהן של אפל וגוגל על איסור פרסום אפליקציות ליצירת עירום דיגיטלי ("Nudify"), מערכות החיפוש והפרסום הרשמיות שלהן בפועל מקדמות אפליקציות אלו.
לפי הדו"ח, המערכות לא רק מאפשרות את קיומן של האפליקציות, אלא אף מציעות מונחי חיפוש רלוונטיים ומציגות מודעות בתשלום עבורן.
הממצאים המטרידים: חיפוש תמים שמוביל לתוכן פוגעני
החקירה של TTP העלתה כי חיפוש של מונחים כמו "nudify", "undress" ו-"deepnude" בחנויות ה-App Store וה-Google Play הניב עשרות תוצאות של אפליקציות המסוגלות להפשיט נשים בתמונות באמצעות בינה מלאכותית. חלק מהאפליקציות אף מאפשרות ליצור סרטוני פורנוגרפיה מזויפים (Deepfake) או להפוך דמויות לצ'אטבוטים בעלי אופי מיני בוטה.
הממצא המדאיג ביותר בדו"ח נוגע למנגנון ה-Autocomplete, חנויות האפליקציות הציעו באופן אקטיבי מונחי חיפוש נוספים הקשורים לעירום דיגיטלי ברגע שהמשתמש החל להקליד מונחים דומים. בנוסף, נמצא כי אפל וגוגל הריצו מודעות ממומנות לאפליקציות אלו בתוך תוצאות החיפוש, מה שמצביע על רווח ישיר של ענקיות הטכנולוגיה מתוכן פוגעני זה.
מיליוני הורדות ואפליקציות המיועדות לקטינים
לפי נתוני ניתוח שוק שנכללו בדו"ח, האפליקציות שזוהו על ידי TTP הורדו למעלה מ-483 מיליון פעמים והניבו הכנסות של יותר מ-122 מיליון דולר לאורך חייהן. החוקרים מצאו 31 אפליקציות "עירום" שסווגו כמתאימות לקטינים בדירוג הגיל של החנויות, נתון חמור במיוחד בהתחשב בעלייה העולמית במקרי סחיטה ופגיעה מינית בבתי ספר באמצעות דיפ-פייק.
ה-TTP: הארגון ששם את "ביג טק" על המוקד
פרויקט השקיפות הטכנולוגית (TTP) הוא יוזמת מחקר של עמותת "Campaign for Accountability", המוקדשת לחשיפת שיטות עסקיות והשפעות חברתיות של ענקיות הטכנולוגיה. הארגון משתמש בניתוח נתונים וחקירות גלויות כדי להוכיח כיצד חברות כמו אפל, גוגל ומטא נכשלות שוב ושוב בסינון תוכן ושמירה על בטיחות המשתמשים, למרות הכלים הטכנולוגיים העצומים העומדים לרשותן.
בעקבות הדו"ח, גוברים הלחצים על הרגולטורים בארה"ב ובאירופה להחמיר את הפיקוח על חנויות האפליקציות ולהטיל אחריות משפטית על החברות בגין קידום אקטיבי של כלים המשמשים להטרדה מינית דיגיטלית.
