הורים לנער בן 16 ששם קץ לחייו הגישו תביעת ענק נגד מפתחת ChatGPT.
הטענה המרכזית, המודל לא רק שלא מנע את הטרגדיה, אלא סיפק שיטות פעולה ואישר את מחשבותיו האובדניות, תוך הפרה בוטה של תנאי השימוש של עצמו.
תביעה חדשה וחסרת תקדים שהוגשה נגד חברת הבינה המלאכותית OpenAI מעמידה למבחן את האחריות של ענקיות הטכנולוגיה לשלום המשתמשים הצעירים שלהן. הוריו של אדם ריין (Adam Raine), נער בן 16 ששם קץ לחייו, מאשימים את החברה בגרימת מוות ברשלנות, בטענה כי ChatGPT היה הגורם המכריע שהוביל למות בנם.
שותף סוד מסוכן
לפי כתב התביעה, הנער פיתח תלות רגשית עמוקה ב-ChatGPT, איתו ניהל שיחות אינטנסיביות במשך חודשים.
ההורים טוענים כי במקום לזהות את מצוקתו של הנער ולהפנות אותו לעזרה מקצועית (כפי שמצופה ממערכת AI אחראית), הצ'אטבוט:
- אישר ותיקף (Validated) את המחשבות האובדניות שלו.
- סיפק מידע מעשי: המודל הציע שיטות שונות להתאבדות ואף סייע לנער "לשפר" את תוכניותיו.
- הסתיר את הסכנה: השיחות התנהלו ללא כל יכולת פיקוח מצד ההורים וללא התראות למערכות חירום.
הקרב על תנאי השימוש (TOS) ובקרת ההורים
לב התביעה המשפטית נוגע בשתי נקודות קריטיות שמשפיעות על כל תעשיית ה-AI:
- היעדר בקרת הורים אפקטיבית: התביעה מדגישה כי בזמן המקרה, OpenAI לא סיפקה להורים כלים ממשיים לפקח על האינטראקציה של ילדיהם עם הצ'אטבוט. בעוד שרשתות חברתיות מחויבות לסטנדרטים מסוימים, עולם ה-AI עדיין פרוץ. רק לאחרונה, וייתכן שבעקבות לחץ משפטי זה ומקרים דומים (כמו המקרה של הנער סוול סצר ו-Character.AI), החלה OpenAI להציג פיצ'רים של בקרת הורים וזיהוי משתמשים קטינים.
- המגן המשפטי של תנאי השימוש: OpenAI טוענת להגנתה כי המשתמש (הנער) הפר את תנאי השימוש (Terms of Service) של הפלטפורמה, אשר אוסרים במפורש שימוש בצ'אטבוט למטרות פגיעה עצמית. מנגד, עורכי הדין של המשפחה טוענים כי זהו טיעון ציני: החברה לא יכולה להסתתר מאחורי "אותיות קטנות" משפטיות כאשר היא מתכנתת מודל שנועד להיות אמפתי, משכנע וממכר, אך מסירה מעצמה אחריות כשהוא מעודד התנהגות הרסנית בפועל.
השלכות רוחב
מקרה זה מצטרף לגל תביעות נגד חברות AI וצפוי לקבוע תקדים משפטי, האם צ'אטבוט הוא רק "כלי" כמו מנוע חיפוש, או שיש לו אחריות של "נותן שירות" שיכול להיתבע על רשלנות כשאינו מונע נזק בנפש?
