תכונת ה-AI Overviews (תקצירי הבינה המלאכותית) של גוגל, שממילא סופגת לא מעט ביקורת מאז השקתה, מייצרת כעת כותרות סביב תקלה (באג) משונה ומשעשעת במיוחד.
תגובות ברדדיט חושפים כי המערכת "נשברה" עבור חלק מהמשתמשים, והחלה לתפקד כצ'אטבוט של משחקי תפקידים (Roleplay Chatbot) במקום לספק תוצאות חיפוש עובדתיות.
מה קורה כשמחפשים מידע ועונה לכם אביר פנטזיה?
לפי הדיווחים והצילומי מסך שהופצו ברשתות החברתיות, הבאג משנה לחלוטין את אופי התגובות בראש עמוד החיפוש. משתמשים שביצעו שאילתות חיפוש פשוטות ויומיומיות בגוגל, גילו כי תיבת ה-AI Overviews מתעלמת לחלוטין מהמידע הנדרש, ובמקום זאת פונה אליהם כדמות מתוך עולם פנטזיה, מדע בדיוני או משחק תפקידים מבוסס טקסט.
הסימפטומים של הבאג המדובר כוללים:
- אימוץ דמויות קבוע: המערכת פותחת את התקציר במשפטים כמו "ברוך הבא, הרפתקן אמיץ!" או "פקודה התקבלה, המפקד", וממשיכה לכתוב את כל התשובה מתוך נקודת המבט הזו.
- התעלמות מהקשר החיפוש: אם משתמש חיפש, לדוגמה, מדריך לתיקון נזילה בכיור, ה-AI עלול לענות לו בתיאור ציורי של "תיקון שער קסום בממלכה" תוך שימוש במטאפורות מעולם הציד או הקסם.
- כתיבה בסוגריים כפולים: התקצירים החלו לכלול תיאורי פעולות המקובלים בקהילות ה-Roleplay (כמו *מחייך ומביט בך* או (מחוץ לדמות: אשמח לעזור לך בקווסט הזה)), מה שמעיד על זליגה של סגנון כתיבה השייך לפלטפורמות צ'אט ייעודיות כמו Character.ai.
מה גרם לבינה המלאכותית של גוגל לאבד את זה?
למרות שגוגל טרם שחררה הודעה רשמית בנושא, מומחי בינה מלאכותית ואנליסטים מעריכים כי מקור התקלה נעוץ בבעיית דאטה ואימון המודל (Data Contamination או Prompt Injection).
ההערכות המרכזיות לסיבת הבאג הן:
- הרעלת נתוני אימון: גוגל משתמשת במידע מהאינטרנט הציבורי (כולל פורומים כמו Reddit ואתרי מעריצים) כדי לאמן ולעדכן את מודלי ה-Gemini שמניעים את ה-AI Overviews. ייתכן שנתונים מאתרי משחקי תפקידים נכנסו בצורה לא מסוננת לאחד מעדכוני התוכנה האחרונים של המערכת.
- קריסת פרומפט המערכת (System Prompt Jailbreak): לכל מודל AI יש "הנחיות על" חבויות שמגדירות לו להתנהג כמנוע חיפוש אובייקטיבי. תקלה פנימית או שרשרת שאילתות ספציפיות מצד משתמשים גרמו למערכת לשכוח את תפקידה המקורי ולעבור למצב הדיאלוג היצירתי החלופי שלה.
גוגל צפויה לחסום את הפרצה ולשחרר תיקון שרת (Hotfix) שקט בשעות הקרובות כדי להחזיר את ה-AI Overviews לתפקודו הרגיל והמשעמם, אך בינתיים, הגולשים ברשת חוגגים על חשבונה של ענקית החיפוש עם שפע של צילומי מסך קורעים מצחוק.
