WebBrain Companion

מנויי ה-AI שכבר יש לכם, מוכנים לשימוש ב-WebBrain

WebBrain Companion חי בשורת התפריטים או במגש המערכת. היכנס ל-Claude, ChatGPT, Google, Grok או Kimi פעם אחת, ו-WebBrain יגיע לכולם בכתובת אחת במחשב שלך. המגש מראה כמה מכל תוכנית נשאר ומתי היא מתאפסת.

הורד גרסה 0.1.2 עבור macOS, Windows ו-Linux. חינם וקוד פתוח.
התפריט פועל

כל השאר מתרחש בפאנל אחד קטן

לחץ על הסמל כדי לפתוח אותו. עמוד אחד מכיל את הכתובת של WebBrain, כל תוכנית עם מה שנשאר, ושני הדגמים המקומיים; לחץ על שורה לפרטים שלה, או על גלגל השיניים להגדרות. הוא עוקב אחר הגדרות האור או החושך שלך ומדובר אנגלית וטורקית.

  • הפאנל: הכתובת http://127.0.0.1:8327/v1 עם כפתור העתקה, מדי שימוש עבור Claude Max, ChatGPT Pro, Google AI Pro ו-SuperGrok, ו-Bonsai 2 27B הפועלים לצד דגם ההחלטה d1.

    עמוד אחד

    הכתובת ש-WebBrain צריכה, כל תוכנית עם הגבלה הקרובה ביותר להיגמר, והדגמים המקומיים עם הכפתור הראשי שלהם. אין מפתח API במחשב זה.

  • גיליון ההוספה של המנויים Claude, ChatGPT, Google, Grok ו-Kimi, כל אחד עם אופן הכניסה.

    הוסף מנוי

    היכנס בדף של הספק עצמו. הכניסה נשארת במחשב שלך.

  • הפרטים של ה-Bonsai 2 27B על הפאנל: פועל על ה-Apple GPU עם קלט תמונה, 65,536 אסימוני הקשר והאפשרויות שלו.

    דגמים מקומיים

    לחץ על Bonsai 2 27B כדי לראות היכן הוא פועל והאם תמונות מתאימות, וכדי לשנות את האפשרויות שלו. d1 נפתח באותו אופן.

Bonsai 2 27B, בגודל למכונה שלך

ה-Ternary Bonsai 2 27B של PrismML מכיל 27 מיליארד פרמטרים בנפח 5.95 GB. המלווה מתקין אותו עם מקרן הראייה Q8_0 שלו והמבנה של PrismML של llama.cpp, או כחבילת MLX ב-Apple Silicon, ומפרט אותו ליד המינויים שלך כ-bonsai-2-27b.

לפני שמשהו יוריד, זה יבדוק איפה המודל פועל והאם קלט תמונה מתאים. מקרן הראייה עובר על ה-GPU כאשר נותרו כ-1 ג'יגה-בייט של זיכרון GPU לאחר הדגם וההקשר שלו, על ה-CPU כאשר רק למערכת RAM יש מקום, וחוץ מזה נשאר כבוי. אתה יכול לעקוף את הבחירה בחלונית.

מה המלווה בוחר במכונות טיפוסיות
מכונהפועל הלאהקלט תמונההקשר
MacBook Air, 8 ג'יגה-בייטאפל GPU עם Metal. הוא זקוק ליותר זיכרון ממה שיש ל-Mac, אז צפו להחלפה.כבויאסימוני 8K
MacBook Pro, 16 ג'יגה-בייטאפל GPU עם Metalפועל, GPUאסימוני 16K
מחשב נייד עם RTX 4060 (8 GB) ו-16 GB RAMCUDA, 57 מתוך 64 שכבות ב-GPUפועל, CPUאסימוני 8K
שולחן עבודה עם RTX 4090 (24 GB) ו-64 GB RAMCUDA, הכל ב-GPUפועל, GPUאסימוני 64K
שולחן עבודה עם Radeon RX 7600 (8 GB) ו-32 GB RAMVulkan, 61 מתוך 64 שכבות ב-GPUפועל, CPUאסימוני 8K
מחשב ללא כרטיס גרפי, 16 גיגה RAMCPUפועל, CPUאסימוני 8K
מחשב ללא כרטיס גרפי, 8GB RAMCPU, עם מעט מקום פנויכבויאסימוני 8K

עובד על ידי המתכנן של המלווה מתוך זיכרון מוחלט ופנוי; המספרים במחשב שלך בזמן ההתקנה מחליטים. ב-Apple Silicon חבילת MLX נושאת מגדל חזון משלה, כך שהתמונות תמיד פועלות.

מודל ההחלטות של WebBrain, מחוץ לדפדפן

דגם ה-d1 של WebBrain עונה על שאלות של כן/לא, בחירה וציון לגבי דף ועד ארבעה צילומי מסך, כגון האם משימה הסתיימה. המלווה מריץ אותו על ONNX Runtime ועונה על HTTP, כך שלשונית דפדפן לא צריכה לטעון 1.9 GB. יציאת ה-Go שלו מחזירה את אותם אסימונים והסתברויות כמו מתאם ה-JavaScript של WebBrain. Native d1 זמין במחשבי Mac Windows, Linux ו-Apple Silicon; זה לא זמין במחשבי Mac Intel.

תשאל

curl http://127.0.0.1:8327/companion/v1/decide \
  -H "Content-Type: application/json" \
  -d '{"state": "Order #1042 is confirmed.",
       "questions": {"completion": {
         "type": "choice",
         "instructions": "Did the task finish?",
         "criteria": {"completed": "Confirmed",
                      "not_completed": "Failed or unfinished",
                      "unknown": "Not established"}}}}'

תשובה (273 אלפיות השנייה בזמן ריצה CPU)

{"answers": {"completion": {
   "choice": "completed",
   "confidence": 0.99997,
   "probabilities": {"completed": 0.99997,
                     "not_completed": 0.000002,
                     "unknown": 0.000033}}},
 "diagnostics": {"runtime": "onnxruntime 1.31.0 (CPU)", …}}

חבר את WebBrain

אתה עושה את זה פעם אחת. אפליקציות במחשב זה לא זקוקות למפתח API.

  1. התקן את המלווה ופתח אותו. הוסף מנוי בחלונית שלו וסיים את הכניסה בדפדפן שלך.
  2. כתובת ברירת המחדל היא http://127.0.0.1:8327/v1. אם היציאה השתנתה, העתק את הכתובת המוצגת בלוח או בתפריט המגש.
  3. בWebBrain, פתח אתספקיםעמוד (יוֹתֵר…בתפריט הדגם של לוח הצד) ובחרWebBrain Companion. שמור את כתובת ברירת המחדל שלו אלא אם האפליקציה מציגה יציאה אחרת. אין צורך במפתח API במחשב זה.
  4. לחץ על Load Models, בחר דגם, Save, והפעל את Test Connection לפני הפעלת הכרטיס. הפעל את הראייה רק ​​עבור דגם שמקבל תמונות.

כל לקוח OpenAI, Anthropic או Gemini במחשב זה יכול להשתמש באותה כתובת. כדי להשתמש בו ממכשיר אחר, הפעל את הגישה לרשת בהגדרות הפאנל; המכשיר הזה צריך אז את מפתח ה-API שהפאנל מציג.

הורד

גרסה 0.1.2. כל חבילה מכילה תוכנית בודדת; ההגדרות והכניסות שלך פעילים בתיקיית המשתמש שלך.

macOS

macOS 12 ומעלה, Apple Silicon ו-Intel (d1 דורש Apple Silicon)

המערכת שלך

העבר את WebBrain Companion לאפליקציות. הבנייה אינה מאושרת על ידי אפל: בפעם הראשונה, אפשר זאת בהגדרות מערכת, פרטיות ואבטחה (פתוח בכל מקרה). ב-macOS 14 ואילך, לחץ עליו תוך לחיצה על Control ובחר פתח.

Windows

Windows 10 ו-11, x64 ו- Arm64

המערכת שלך

הפעל את תוכנית ההתקנה: הוא מותקן עבור החשבון שלך, ללא הנחיה של מנהל מערכת, ומוסיף WebBrain Companion לתפריט התחל. עד שהמתקין יהיה חתום בקוד, SmartScreen עשוי לומר "Windows protected your PC": בחר עוד מידע ולאחר מכן הפעל בכל זאת.

Linux

x64 ו- Arm64

המערכת שלך

פרק והפעל את webbrain-companion. הסמל צריך מגש StatusNotifierItem: KDE, XFCE, או GNOME עם ההרחבה AppIndicator.

SHA-256 סיכומי בדיקהקוד מקורכל המהדורות

לפני שאתה נכנס

מה נשאר במחשב שלך

  • במחשב זה אין צורך במפתח API: הנלווה עונה רק על בקשות מ-127.0.0.1 ומסירה דפי אינטרנט, כך שאתר שבו אתה מבקר לא יכול להוציא את התוכניות שלך. הרחבות דפדפן כגון WebBrain ואפליקציות במחשב זה יכולות להשתמש בו.
  • התקנים אחרים יכולים להתחבר רק אם אתה מפעיל את הגישה לרשת בהגדרות הפאנל. לאחר מכן הוא מאזין ב-0.0.0.0, והם צריכים את מפתח ה-API שהפאנל מציג.
  • התחברות מאוחסנות בתיקיית המשתמש שלך ונשלחות רק לספק שאליו הם שייכים.
  • אין ניתוחים. מלבד הספקים אליהם אתה נכנס, הוא מביא רק את רשימת הדגמים הציבורית של CLIProxyAPI, וכאשר אתה מתקין דגם, הקבצים שלו מ-Hugging Face, GitHub ועבור MLX, PyPI.
  • הנחיות שנשלחות למנוי עדיין עוברות לספק זה. רק Bonsai 2 27B ו-d1 פועלים במחשב שלך.

מה הספק שלך מחליט

  • מנוי שפועל באמצעות פרוקסי אינו זהה למנוי שהספק מאפשר. תנאי הצרכן של Anthropic מגבילים גישה אוטומטית מחוץ למפתח API, ותנאי ה-Gemini CLI של Google אומרים שלא ניתן להשתמש בכניסה שלו עם כלים של צד שלישי.
  • בדוק את תנאי התוכנית והאזור שלך לפני שתוסיף אותה. אם חשבון חשוב לך, מפתח API של ספק הוא המסלול הבטוח יותר.
  • השאר את הגישה לרשת כבויה ב-Wi-Fi ציבורי, ולעולם אל תעביר את יציאת 8327 לאינטרנט. מפתח ה-API אינו אבטחה ברמת אינטרנט.

חבר את WebBrain ל-Companion