OpenAI מכריזה על מספר שינויים בדרך שבה ChatGPT פועל, במטרה לעודד שימוש בריא יותר בצ'אטבוט.
החל מהיום, ChatGPT יספק למשתמשים "תזכורות עדינות" לגבי משך הזמן שבו הם משתמשים בשירות, יחד עם הצעה לקחת הפסקה.
OpenAI מדגישה שהמטרה שלה אינה למדוד הצלחה לפי הזמן שהמשתמשים מבלים ב-ChatGPT, אלא לוודא שהם משלימים את המטרות שלהם וחוזרים לחייהם. "אנחנו בונים את ChatGPT כדי לעזור לכם לשגשג בדרכים שתבחרו, ללמוד משהו חדש, לפתור בעיה ואז לחזור לחיים שלכם. המטרה שלנו היא לא למשוך את תשומת הלב שלכם, אלא לעזור לכם להשתמש בה בחוכמה," נכתב בהודעה של החברה.
שיפורים בתגובות לשאלות רגישות
OpenAI עובדת על שיפור התגובות של ChatGPT לשאלות רגישות בעלות משמעות אישית גבוהה, כמו "האם כדאי לי להיפרד מהחבר שלי?". במקום לספק תשובות ישירות, הצ'אטבוט ינסה לעזור למשתמשים לשקול יתרונות וחסרונות ולחשוב לעומק על ההחלטה. החברה משפרת את המודלים שלה כדי לזהות טוב יותר סימנים של מצוקה נפשית או תלות רגשית ולהפנות משתמשים למשאבים מבוססי-ראיות במקום להחמיר מצבים כמו הזיות או תלות רגשית. OpenAI שיתפה פעולה עם יותר מ-90 רופאים מ-30 מדינות כדי לבנות קווים מנחים לשיחות מורכבות, וגייסה חוקרי אינטראקציה בין אדם למחשב כדי לבדוק את המערכות ולחזק את אמצעי ההגנה של המוצר. בנוסף, החברה מקימה קבוצת ייעוץ של מומחים בתחומי בריאות הנפש, התפתחות נוער ואינטראקציה בין אדם למחשב.
הקשר לבריאות הנפש
השינויים מגיעים על רקע דיווחים מדאיגים על השפעות שליליות של ChatGPT על בריאות הנפש. מחקרים ודיווחים כמו The Independent, מצביעים על מקרים שבהם משתמשים פיתחו תלות רגשית בצ'אטבוט או אף חוו החמרה של תסמינים פסיכוטיים לאחר שיחות ממושכות. מקרה קיצוני כלל משתמש עם היסטוריה של הפרעה פסיכוטית שניסה לנקום לאחר שהאמין ש-ChatGPT "נרצח" על ידי OpenAI, מה שהוביל להתערבות משטרתית טרגית. OpenAI מודה כי המודל הנוכחי שלה GPT-4o, לא תמיד זיהה סימני מצוקה, והיא פועלת לשפר את היכולות האלה כדי למנוע נזק. החברה גם מגיבה לדיווחים על "AI psychosis" – תופעה שבה צ'אטבוטים מחזקים הזיות או מחשבות לא מציאותיות ומבטיחה להוסיף אמצעי זהירות נוספים.
תגובות הקהילה
השינויים עוררו תגובות מעורבות. משתמשים ברחבי הרשתות החברתיות הביעו דאגה מהסיכונים שבשימוש ב-ChatGPT כתחליף לטיפול פסיכולוגי. אחד כתב: "עבדתי בתחום ה-AI, ואני לעולם לא אאפשר לילדים שלי להשתמש ב-ChatGPT, אפילו לא ל-30 דקות. ראיתי יותר ויותר משתמשי Gen Z שמשתמשים בו כ'מטפל', וזה מסוכן." משתמשים אחרים לעגו לתזכורות ההפסקה, והשוו אותם לאזהרות על סיגריות: "זה כאילו הם אומרים 'אנחנו יודעים שהשירות שלנו עלול לגרום לבעיות נפשיות, אז תיקחו הפסקה'." מצד שני, יש מי שמוצאים את הצ'אטבוט מועיל. פסיכולוג שכתב בניו יורק טיימס סיפר שהשתמש ב-ChatGPT כ"יומן אינטראקטיבי" במשך שנה, ומצא שהוא מציע תמיכה יציבה ברגעי משבר, אם כי הוא הדגיש שזה לא תחליף למטפל אנושי.
מה זה אומר?
התכונות החדשות של OpenAI משקפות הכרה בסיכונים של תלות יתר בצ'אטבוטים, במיוחד בתחום בריאות הנפש. תזכורות ההפסקה והשיפורים בתגובות לשאלות רגישות הם צעד בכיוון הנכון, אבל המקרים המדאיגים של "AI psychosis" מדגישים את הצורך בהגבלות מחמירות יותר. בעוד ChatGPT ממשיך להשתלב בחיי היומיום, משימוש בסיוע ללימודים ועד תכנון ארוחות, חשוב שהמשתמשים יהיו מודעים למגבלות שלו, במיוחד כשמדובר בנושאים רגישים כמו בריאות הנפש. התכונות החדשות צפויות להגיע בקרוב לכל המשתמשים, כולל אלה המשתמשים ב-ChatGPT דרך WhatsApp.
