מהפכת ה-AI המקומית (On-device AI) עולה שלב ומגיעה ישירות לדפדפן שלכם.
חברת גוגל הטמיעה בגרסאות המודרניות של דפדפן Google Chrome את מודל השפה הקומפקטי והחזק שלה, Gemini Nano.
המשמעות היא שאתם יכולים להריץ משימות בינה מלאכותית מורכבות, ניתוח טקסטים וצ'אט לחלוטין אופליין, ללא צורך בחיבור לאינטרנט, ללא שליחת נתונים לענן ובחינם לחלוטין.
מדריך כיצד תוכלו לעקוף את המגבלות, להפעיל את הפיצ'ר הנסתר דרך תפריט הפיתוח של כרום, ולתת למחשב שלכם לעשות את כל העבודה באופן עצמאי ומאובטח.
היתרונות הגדולים של AI מקומי בדפדפן
הרצת מודל כמו Gemini Nano ישירות על החומרה שלכם (ה-GPU או ה-CPU) מציעה שלושה יתרונות קריטיים:
- פרטיות מוחלטת: הטקסטים והנתונים שלכם לא נשלחים לשרתים חיצוניים. הכל נשאר ומעובד מקומית על הדיסק הקשיח, פתרון מושלם למי שמטפל במידע רגיש או עסקי.
- אפס דיליי (Latency): אין תלות במהירות האינטרנט או בעומס על השרתים של גוגל. התשובות מתקבלות בתוך מילישניות.
- חיסכון בעלויות: אין צורך במפתחות API (API Keys) או בתשלום לפי כמות טוקנים (Tokens) – המודל רץ על חשבון משאבי המערכת שלכם.
מדריך שלב אחר שלב: כך תפעילו את Gemini Nano ב-Chrome
התכונה מונעת על ידי ממשק ה-Prompt API החדש של כרום. כדי להפעיל אותה בפעם הראשונה, עקבו אחר הצעדים הבאים:
שלב 1: הפעלת דגלי הפיתוח (Chrome Flags)
- פתחו כרטיסייה חדשה בכרום והקלידו בשורת הכתובת: chrome://flags
- בתיבת החיפוש העליונה, חפשו את הדגל הבא Prompt API for Gemini Nano (או #prompt-api-for-gemini-nano) ושנו את המצב שלו ל-Enabled (או Enabled Multimodal אם ברצונכם לתמוך גם בקלט של תמונות).
- חפשו דגל נוסף בשם Enables optimization guide on device (או #optimization-guide-on-device-model) ושנו את הגדרתו ל-Enabled BypassPerfRequirement. האפשרות הזו תעקוף מגבלות חומרה קשוחות ותאפשר למודל לרוץ גם על מחשבים ניידים מעט ישנים יותר.
- לחצו על כפתור ה-Relaunch (הפעלה מחדש) שיופיע בתחתית המסך כדי לרענן את הדפדפן.
שלב 2: הורדת "המוח" של המודל למחשב
- כרום צריך להוריד את קובץ המודל (שגודלו נע בין 2 ל-4 גיגה-בייט) אל פרופיל המשתמש המקומי שלכם.
- פתחו כרטיסייה חדשה והקלידו: chrome://components
- חפשו ברשימה את הרכיב שנקרא Optimization Guide On Device Model.
- לחצו על כפתור Check for update (בדוק עדכונים). המתינו מספר דקות עד שהסטטוס ישתנה ל-"Up to date" או "Component updated", מה שמסמן שהמודל ירד במלואו ומותקן אצלכם.
שלב 3: בדיקה והרצה ראשונית דרך ה-DevTools
כדי לוודא שהכל עובד ושהמודל מוכן לפעולה, תוכלו להריץ פקודה קצרה:
- לחצו על מקש F12 (או קליק ימני ⬅️ בדיקה / Inspect) כדי לפתוח את כלי המפתחים של כרום, ועברו ללשונית ה-Console (מסוף).
- הדביקו את השורה הבאה ולחצו Enter כדי לבדוק זמינות:
- await LanguageModel.availability();
- אם קיבלתם את התשובה `"available"`, המודל שלכם מוכן!
- כעת תוכלו ליצור איתו אינטראקציה ישירה בקוד. לדוגמה, כדי לבקש ממנו תשובה, הריצו:
"`javascript
const session = await LanguageModel.create();
const response = await session.prompt("Hello Gemini, what are you?");
console.log(response);
דרישות מערכת וטיפים לחוויה חלקה
כדי שהמודל יתפקד בצורה טובה ללא תקיעות, גוגל ממליצה על חומרה מודרנית:
- מערכת הפעלה: Windows 10/11, macOS 13+ (Ventura ומעלה), או Linux.
- זיכרון גרפי (VRAM): מעל 4 ג"ב של זיכרון ייעודי בכרטיס המסך (עבור הרצה מבוססת GPU), או לחלופין לפחות 16 ג"ב של זיכרון RAM ומעבד בעל 4 ליבות ומעלה (עבור הרצה מבוססת CPU).
- מקום פנוי בדיסק: מומלץ לשמור על לפחות 10–20 גיגה-בייט פנויים בכונן שבו מותקן כרום, שכן הדפדפן עלול למחוק אוטומטית את המודל אם המחשב יזהה מחסור חמור במקום.
