WebBrain Companion
Je bestaande AI-abonnementen, klaar voor WebBrain
WebBrain Companion bevindt zich in uw menubalk of systeemvak. Meld u één keer aan bij Claude, ChatGPT, Google, Grok of Kimi en WebBrain bereikt ze allemaal op één adres op uw computer. In de lade wordt weergegeven hoeveel van elk plan er nog over is en wanneer het wordt gereset.
Al het andere gebeurt in één klein paneel
Klik op het pictogram om het te openen. Eén pagina bevat het adres van WebBrain, elk plan met wat er nog over is, en de twee lokale modellen; klik op een rij voor de details, of op het tandwiel voor instellingen. Het volgt uw lichte of donkere omgeving en spreekt Engels en Turks.
Eén pagina
Het adres dat WebBrain nodig heeft, elk plan waarvan de limiet bijna op is, en de lokale modellen met hun hoofdknop. Geen API-sleutel op deze computer.
Voeg een abonnement toe
Log in op de eigen pagina van de aanbieder. De login blijft op uw computer staan.
Lokale modellen
Klik op Bonsai 2 27B om te zien waar het wordt uitgevoerd, of afbeeldingen passen, en om de opties te wijzigen. d1 opent op dezelfde manier.
Bonsai 2 27B, op maat van uw machine
PrismML's Ternary Bonsai 2 27B verpakt 27 miljard parameters in 5,95 GB. De metgezel installeert het met zijn Q8_0 vision-projector en PrismML's versie van llama.cpp, of als het MLX-pakket op Apple Silicon, en vermeldt het naast uw abonnementen als bonsai-2-27b.
Voordat er iets wordt gedownload, wordt uitgezocht waar het model draait en of de beeldinvoer past. De vision-projector gaat op de GPU als er ongeveer 1 GB GPU-geheugen over is na het model en zijn context, op de CPU als alleen systeem RAM ruimte heeft, en blijft anders uit. U kunt de keuze in het paneel overschrijven.
| Machine | Loopt door | Beeldinvoer | Context |
|---|---|---|---|
| MacBook Air, 8 GB | Apple GPU met Metal. Het heeft meer geheugen nodig dan de Mac, dus verwacht swapping. | Uit | 8K-tokens |
| MacBook Pro, 16 GB | Apple GPU met Metal | Aan, GPU | 16K-tokens |
| Laptop met een RTX 4060 (8 GB) en 16 GB RAM | CUDA, 57 van 64 lagen op de GPU | Aan, CPU | 8K-tokens |
| Desktop met een RTX 4090 (24 GB) en 64 GB RAM | CUDA, allemaal op de GPU | Aan, GPU | 64K-tokens |
| Desktop met een Radeon RX 7600 (8 GB) en 32 GB RAM | Vulkan, 61 van 64 lagen op de GPU | Aan, CPU | 8K-tokens |
| PC zonder grafische kaart, 16 GB RAM | CPU | Aan, CPU | 8K-tokens |
| PC zonder grafische kaart, 8 GB RAM | CPU, met weinig ruimte over | Uit | 8K-tokens |
Uitgewerkt door de planner van de metgezel vanuit volledig en vrij geheugen; de nummers op uw machine op het moment van installatie beslissen. Op de Apple Silicon heeft het MLX-pakket een eigen visietoren, zodat de beelden altijd zichtbaar zijn.
Het beslissingsmodel van WebBrain, buiten de browser
Het d1-model van WebBrain beantwoordt ja/nee, keuze- en scorevragen over een pagina en maximaal vier screenshots, zoals of een taak is voltooid. De metgezel draait het op ONNX Runtime en antwoordt via HTTP, zodat een browsertabblad geen 1,9 GB hoeft te laden. De Go-poort retourneert dezelfde tokens en kansen als de JavaScript-adapter van WebBrain. Native d1 is beschikbaar op Windows, Linux en Apple Silicon Macs; het is niet beschikbaar op Intel Macs.
Vraag
curl http://127.0.0.1:8327/companion/v1/decide \
-H "Content-Type: application/json" \
-d '{"state": "Order #1042 is confirmed.",
"questions": {"completion": {
"type": "choice",
"instructions": "Did the task finish?",
"criteria": {"completed": "Confirmed",
"not_completed": "Failed or unfinished",
"unknown": "Not established"}}}}'Antwoord (273 ms tijdens de CPU-runtime)
{"answers": {"completion": {
"choice": "completed",
"confidence": 0.99997,
"probabilities": {"completed": 0.99997,
"not_completed": 0.000002,
"unknown": 0.000033}}},
"diagnostics": {"runtime": "onnxruntime 1.31.0 (CPU)", …}}Sluit WebBrain aan
Dit doe je één keer. Apps op deze computer hebben geen API-sleutel nodig.
- Installeer de metgezel en open deze. Voeg een abonnement toe in het paneel en voltooi het inloggen in uw browser.
- Het standaardadres is
http://127.0.0.1:8327/v1. Als de poort is gewijzigd, kopieert u het adres dat wordt weergegeven in het paneel- of lademenu. - Open in WebBrain de pagina Providers (Meer... in het modelmenu van het zijpaneel) en kies WebBrain Companion. Behoud het standaardadres tenzij de app een andere poort toont. Op deze computer is geen API-sleutel nodig.
- Klik op Models laden, kies een model, Opslaan en voer Test Connection uit voordat u de kaart activeert. Schakel vision alleen in voor een model dat afbeeldingen accepteert.
Elke OpenAI-, Anthropic- of Gemini-client op deze computer kan hetzelfde adres gebruiken. Om het vanaf een ander apparaat te gebruiken, schakelt u netwerktoegang in de paneelinstellingen in; dat apparaat heeft dan de API-sleutel nodig die op het paneel wordt weergegeven.
Downloaden
Versie 0.1.2. Elk pakket bevat één programma; uw instellingen en logins staan in uw gebruikersmap.
macOS
macOS 12 of hoger, Apple Silicon en Intel (d1 vereist Apple Silicon)
Jouw systeemVerplaats WebBrain Companion naar Toepassingen. De build is niet notarieel bekrachtigd door Apple: de eerste keer moet u deze toestaan in Systeeminstellingen, Privacy en beveiliging (toch open). Op macOS 14 en eerder klikt u erop met de Control-toets ingedrukt en kiest u Openen.
Windows
Windows 10 en 11, x64 en Arm64
Jouw systeemVoer het installatieprogramma uit: het wordt voor uw account geïnstalleerd, zonder beheerdersprompt, en voegt WebBrain Companion toe aan het Start-menu. Totdat het installatieprogramma is ondertekend, kan SmartScreen zeggen: "Windows heeft uw pc beschermd": kies Meer info en vervolgens Toch uitvoeren.
Linux
x64 en Arm64
Jouw systeemUitpakken en webbrain-companion uitvoeren. Het pictogram heeft een StatusNotifierItem-lade nodig: KDE, XFCE of GNOME met de extensie AppIndicator.
Voordat u zich aanmeldt
Wat er op uw computer blijft staan
- Op deze computer is geen API-sleutel nodig: de begeleider beantwoordt alleen verzoeken van 127.0.0.1 en wijst webpagina's af, zodat een site die u bezoekt uw plannen niet kan besteden. Browserextensies zoals WebBrain en apps op deze computer kunnen er gebruik van maken.
- Andere apparaten kunnen alleen verbinding maken als u netwerktoegang inschakelt in de paneelinstellingen. Vervolgens luistert het naar 0.0.0.0 en hebben ze de API-sleutel nodig die op het paneel wordt weergegeven.
- Logins worden opgeslagen in uw gebruikersmap en alleen verzonden naar de provider waartoe ze behoren.
- Er zijn geen analyses. Afgezien van de providers waarbij u zich aanmeldt, haalt het alleen de openbare modellenlijst van CLIProxyAPI op, en, wanneer u een model installeert, de bestanden van Hugging Face, GitHub en, voor MLX, PyPI.
- Prompts die naar een abonnement worden gestuurd, gaan nog steeds naar die provider. Alleen Bonsai 2 27B en d1 draaien op uw machine.
Wat uw provider beslist
- Een abonnement dat via een proxy werkt, is niet hetzelfde als een abonnement dat de provider toestaat. De consumentenvoorwaarden van Anthropic beperken geautomatiseerde toegang buiten een API-sleutel, en de Gemini CLI-voorwaarden van Google zeggen dat de aanmelding niet mag worden gebruikt met tools van derden.
- Controleer de voorwaarden van uw abonnement en regio voordat u deze toevoegt. Als een account voor u belangrijk is, is een API-sleutel van een provider de veiligere route.
- Houd netwerktoegang uitgeschakeld op openbare Wi-Fi en stuur poort 8327 nooit door naar internet. De API-sleutel is geen beveiliging van internetkwaliteit.