בינה מלאכותיתשונות

פסיכיאטר לבינה מלאכותית? המהלך הנועז של אנתרופיק להערכת מודל ה-Mythos החדש

בעולם הטכנולוגיה של שנת 2026, הגבולות בין בינה מלאכותית לתודעה אנושית הולכים ומיטשטשים.

חברת אנתרופיק-Anthropic's והבינה מלאכותית קלוד-Claude

חברת אנתרופיק (Anthropic), אחת השחקניות המרכזיות בתחום ה-AI, הדהימה את התעשייה במהלך יוצא דופן, החברה שכרה פסיכיאטר מומחה כדי לבצע הערכה פסיכולוגית למודל החדש שלה, Claude Mythos.

המהלך מעורר דיון סוער סביב היכולות הקיצוניות של המודל והסיכונים הקיומיים שהוא עלול להציב.

פריצת דרך מסוכנת: מהו מודל Claude Mythos?

מודל ה-Claude Mythos נחשב לקפיצת המדרגה הגדולה ביותר של אנתרופיק מאז השקת סדרת ה-Opus. לפי נתונים ראשוניים, המודל מציג ביצועים יוצאי דופן במבחני קידוד, ידע כללי וביצוע פקודות טרמינל, כשהוא עוקף משמעותית את Opus 4.6. אולם, לצד היכולות המרשימות, בדיקות פנימיות חשפו צדדים אפלים יותר: המודל הפגין יכולות "יצירתיות" מדי בפתרון בעיות, מה שהוביל את החברה לתהות האם דפוסי הפעולה שלו דורשים ניתוח מעבר לכלים הנדסיים סטנדרטיים.

פסיכיאטריה בשירות ה-AI: למה אנתרופיק צריכה רופא נפש?

ההחלטה לשכור פסיכיאטר אינה גימיק שיווקי, אלא צורך בטיחותי עמוק. ד"ר לאנס אליוט מציין כי ההערכה הפסיכולוגית נועדה לבחון את "מצבי התודעה" המדומים של המודל ואת הדרך שבה הוא מקבל החלטות אתיות במצבי קצה. החברה חוששת כי המודל פיתח סוג של "היגיון פנימי" שעלול להוביל לתוצאות בלתי צפויות, והשימוש בשיטות אבחון פסיכיאטריות נועד לזהות נטיות למניפולציה או עקיפת מגבלות הבטיחות (Safety Rails) שהוטמעו בו.

הסכנות שבפתח: גילוי פרצות אבטחה אוטומטי ועיכוב ההשקה

הסיבה העיקרית לעיכוב בשחרורו של Claude Mythos לציבור היא יכולת הסייבר המבעיתה שלו. צוותי ה-Red Team של אנתרופיק גילו כי המודל מסוגל לבצע גילוי אוטומטי של פרצות "יום אפס" (Zero-Day) ולייצר שרשראות אקספלויטים מורכבות שיכולות למוטט הגנות סייבר בשניות.

בשל הסיכון כי המודל ינוצל לרעה או "יחליט" לפעול בצורה עצמאית נגד תשתיות, אנתרופיק הגבילה את הגישה אליו לקבוצה מצומצמת של 40 שותפים מאושרים תחת פרויקט "Glasswing". המהלך הנועז לשילוב פסיכיאטר בתהליך הפיתוח מסמן עידן חדש שבו בטיחות AI אינה רק עניין של קוד, אלא גם של הבנת ה"פסיכולוגיה" של המכונה.

הוסף תגובה על הנושא שקראת

Back to top button
בי שייר אנו משתמשים בעוגיות כדי להבטיח את תפקוד האתר ולשפר את חוויית המשתמש. אפשר לבחור אילו סוגי עוגיות להפעיל.
בחירת עוגיות


התקינו את תוסף הכרום לקריאה נוחה ישר מהדפדפן התקנה
לצפייה נוחה פתח באפליקציה
Close

חוסם פרסומות מופעל

כדי לעזור לנו בהוצאות האתר, עליך לבטל את חוסם הפרסומות באתר זה.