מטא מגישה תביעה נגד CrushAI שפרסמה אפליקציות בינה מלאכותית בפלטפורמות המדיה החברתית שלה, המאפשרות "להפשיט" אנשים דיגיטלית ללא הסכמתם.
התביעה נגד היזמים Joy Timeline מגיעה לאחר שחוקרת של CBS News חשפה בשבוע שעבר מאות מודעות לאפליקציות "הפשטה" דיגיטליות בפלטפורמות של מטא, כולל פייסבוק, מסנג'ר, אינסטגרם ות'רדס.
"פעולה משפטית זו מדגישה את הרצינות שבה אנו מתייחסים להתעללות זו ואת מחויבותנו לעשות כל שביכולתנו כדי להגן על הקהילה שלנו מפניה," אמרה מטא. "נמשיך לנקוט בצעדים הנדרשים – שיכולים לכלול פעולות משפטיות – נגד מי שמנצלים לרעה את הפלטפורמות שלנו בצורה זו."
התביעה של מטא נועדה למנוע מחברת Joy Timeline, שנמצאת בהונג קונג, לפרסם מודעות לאפליקציות ה"נודיפיי" (nudify) של CrushAI בפלטפורמות המדיה החברתית שלה, לאחר שהחברה ביצעה "מספר ניסיונות לעקוף את תהליך בדיקת המודעות של מטא."
הפעולה המשפטית מגיעה בעקבות חקירה שפורסמה לאחרונה על ידי CBS News, שמצאה מאות מודעות לאפליקציות "נודיפיי" בפלטפורמות של מטא. מטא מסרה ל-CBS כי מאז הסירה מספר מודעות כאלה, מחקה את החשבונות שהפעילו אותם וחסמה את כתובות האתרים הקשורות לאפליקציות דיפ-פייק עירום, אך ציינה כי קשה יותר ויותר לאכוף את המדיניות שלה ככל שאפליקציות בינה מלאכותית נצלניות מוצאות דרכים חדשות להתחמק מזיהוי.
דו"ח CBS ציין כי מודעות לכלי דיפ-פייק עירום של בינה מלאכותית עדיין נמצאו באינסטגרם לאחר שמטא הסירה מודעות לאפליקציות שסומנו בחקירה.
רבות מהמודעות שגילתה CBS כוונו לגברים בני 18 עד 65 בארצות הברית, בריטניה והאיחוד האירופי.
מעבר להפרת מדיניות הבטיחות והניהול של מטא, אפליקציות ש"מפשיטות" אנשים דיגיטלית ללא הסכמתם – המיועדות בעיקר לשימוש נגד נשים וסלבריטאיות – תורמות לעלייה בתוכניות סחיטה ו"סקסטורשן", ולעיתים קרובות מגיעות לידי ילדים.
בנוסף, 404 Media פרסמה חקירה דומה באפריל 2024 לאחר שגילתה כלים ליצירת דיפ-פייק לא מורשים שפורסמו באינסטגרם, כאשר אפל וגוגל הסירו לאחר מכן אפליקציות שסומנו בדו"ח מחנויות האפליקציות שלהם. סן פרנסיסקו הגישה תביעה משלה נגד 16 מאתרי הדיפ-פייק ה"מפשיטים" הנצפים ביותר באוגוסט 2024.
