WebBrain Companion
Ihre bestehenden KI-Abos, bereit für WebBrain
WebBrain Companion befindet sich in Ihrer Menüleiste oder Taskleiste. Melden Sie sich einmal bei Claude, ChatGPT, Google, Grok oder Kimi an, und WebBrain erreicht alle unter einer Adresse auf Ihrem Computer. In der Ablage wird angezeigt, wie viel von jedem Plan noch übrig ist und wann er zurückgesetzt wird.
Alles andere geschieht in einem kleinen Panel
Klicken Sie auf das Symbol, um es zu öffnen. Eine Seite enthält die Adresse für WebBrain, jeden Plan mit dem Rest und die beiden lokalen Modelle; Klicken Sie auf eine Zeile, um deren Details anzuzeigen, oder auf das Zahnrad, um die Einstellungen anzuzeigen. Es folgt Ihrer hellen oder dunklen Einstellung und spricht Englisch und Türkisch.
Eine Seite
Die benötigte Adresse WebBrain, jeder Plan mit dem Limit, das dem Auslaufen am nächsten kommt, und die lokalen Modelle mit ihrer Hauptschaltfläche. Kein API-Schlüssel auf diesem Computer.
Fügen Sie ein Abonnement hinzu
Melden Sie sich auf der eigenen Seite des Anbieters an. Der Login bleibt auf Ihrem Computer.
Lokale Modelle
Klicken Sie auf Bonsai 2 27B, um zu sehen, wo es ausgeführt wird und ob Bilder passen, und um seine Optionen zu ändern. d1 wird auf die gleiche Weise geöffnet.
Bonsai 2 27B, passend zu Ihrer Maschine
Der Ternary Bonsai 2 27B von PrismML packt 27 Milliarden Parameter auf 5,95 GB. Der Begleiter installiert es mit seinem Vision-Projektor Q8_0 und PrismMLs Build von llama.cpp oder als MLX-Paket auf Apple Silicon und listet es neben Ihren Abonnements als bonsai-2-27b auf.
Bevor etwas heruntergeladen wird, wird ermittelt, wo das Modell ausgeführt wird und ob die Bildeingabe passt. Der Vision-Projektor schaltet sich beim GPU ein, wenn nach dem Modell und seinem Kontext noch etwa 1 GB GPU-Speicher übrig ist, beim CPU, wenn nur das System RAM Platz hat, und bleibt ansonsten ausgeschaltet. Sie können die Auswahl im Panel überschreiben.
| Maschine | Läuft weiter | Bildeingabe | Kontext |
|---|---|---|---|
| MacBook Air, 8 GB | Apple GPU mit Metal. Es benötigt mehr Speicher als der Mac, also rechnen Sie mit einem Austausch. | Aus | 8K-Token |
| MacBook Pro, 16 GB | Apple GPU mit Metal | Ein, GPU | 16K-Token |
| Laptop mit einem RTX 4060 (8 GB) und 16 GB RAM | CUDA, 57 von 64 Schichten auf dem GPU | Ein, CPU | 8K-Token |
| Desktop mit einem RTX 4090 (24 GB) und einem 64 GB RAM | CUDA, alle auf dem GPU | Ein, GPU | 64K-Token |
| Desktop mit einem Radeon RX 7600 (8 GB) und 32 GB RAM | Vulkan, 61 von 64 Schichten auf dem GPU | Ein, CPU | 8K-Token |
| PC ohne Grafikkarte, 16 GB RAM | CPU | Ein, CPU | 8K-Token |
| PC ohne Grafikkarte, 8 GB RAM | CPU, mit wenig Platz | Aus | 8K-Token |
Vom Begleiterplaner aus Gesamt- und Freispeicher erarbeitet; Die Nummern auf Ihrem Computer zum Zeitpunkt der Installation entscheiden. Beim Apple Silicon verfügt das MLX-Paket über einen eigenen Vision Tower, sodass die Bilder immer eingeschaltet sind.
Das Entscheidungsmodell von WebBrain außerhalb des Browsers
Das d1-Modell von WebBrain beantwortet Ja/Nein-, Auswahl- und Bewertungsfragen zu einer Seite und bis zu vier Screenshots, beispielsweise ob eine Aufgabe abgeschlossen ist. Der Begleiter führt es auf ONNX Runtime aus und antwortet über HTTP, sodass ein Browser-Tab nicht 1,9 GB laden muss. Sein Go-Port gibt dieselben Token und Wahrscheinlichkeiten zurück wie der JavaScript-Adapter von WebBrain. Natives d1 ist auf den Macs Windows, Linux und Apple Silicon verfügbar; Es ist auf Intel-Macs nicht verfügbar.
Fragen Sie
curl http://127.0.0.1:8327/companion/v1/decide \
-H "Content-Type: application/json" \
-d '{"state": "Order #1042 is confirmed.",
"questions": {"completion": {
"type": "choice",
"instructions": "Did the task finish?",
"criteria": {"completed": "Confirmed",
"not_completed": "Failed or unfinished",
"unknown": "Not established"}}}}'Antwort (273 ms auf der CPU-Laufzeit)
{"answers": {"completion": {
"choice": "completed",
"confidence": 0.99997,
"probabilities": {"completed": 0.99997,
"not_completed": 0.000002,
"unknown": 0.000033}}},
"diagnostics": {"runtime": "onnxruntime 1.31.0 (CPU)", …}}Verbinden Sie WebBrain
Das machen Sie einmal. Apps auf diesem Computer benötigen keinen API-Schlüssel.
- Installieren Sie den Begleiter und öffnen Sie ihn. Fügen Sie in seinem Bereich ein Abonnement hinzu und schließen Sie die Anmeldung in Ihrem Browser ab.
- Die Standardadresse ist
http://127.0.0.1:8327/v1. Wenn sich der Port geändert hat, kopieren Sie die im Panel- oder Tray-Menü angezeigte Adresse. - Öffnen Sie in WebBrain die Seite Providers (Mehr… im Modellmenü des Seitenbereichs) und wählen Sie WebBrain Companion aus. Behalten Sie die Standardadresse bei, es sei denn, die App zeigt einen anderen Port an. Auf diesem Computer ist kein API-Schlüssel erforderlich.
- Klicken Sie auf Modelle laden, wählen Sie ein Modell aus, Speichern und führen Sie Verbindung testen aus, bevor Sie die Karte aktivieren. Aktivieren Sie die Sicht nur für ein Modell, das Bilder akzeptiert.
Jeder OpenAI-, Anthropic- oder Gemini-Client auf diesem Computer kann dieselbe Adresse verwenden. Um es von einem anderen Gerät aus zu verwenden, aktivieren Sie den Netzwerkzugriff in den Einstellungen des Panels; Dieses Gerät benötigt dann den API-Schlüssel, den das Panel anzeigt.
Herunterladen
Version 0.1.2. Jedes Paket enthält ein einzelnes Programm; Ihre Einstellungen und Anmeldungen befinden sich in Ihrem Benutzerordner.
macOS
macOS 12 oder höher, Apple Silicon und Intel (d1 erfordert Apple Silicon)
Ihr SystemVerschieben Sie WebBrain Companion in „Anwendungen“. Der Build ist nicht von Apple notariell beglaubigt: Erlauben Sie ihn beim ersten Mal in den Systemeinstellungen, Datenschutz und Sicherheit (Trotzdem öffnen). Klicken Sie bei macOS 14 und früher bei gedrückter Ctrl-Taste darauf und wählen Sie „Öffnen“.
Windows
Windows 10 und 11, x64 und Arm64
Ihr SystemFühren Sie das Installationsprogramm aus: Es wird ohne Administratoraufforderung für Ihr Konto installiert und fügt WebBrain Companion zum Startmenü hinzu. Bis das Installationsprogramm mit dem Code signiert ist, sagt SmartScreen möglicherweise „Windows hat Ihren PC geschützt“: Wählen Sie „Weitere Informationen“ und dann „Trotzdem ausführen“.
Linux
x64 und Arm64
Ihr SystemEntpacken Sie Webbrain-Companion und führen Sie es aus. Das Symbol benötigt ein StatusNotifierItem-Fach: KDE, XFCE oder GNOME mit der Erweiterung AppIndicator.
Bevor Sie sich anmelden
Was auf Ihrem Computer bleibt
- Auf diesem Computer ist kein API-Schlüssel erforderlich: Der Begleiter beantwortet nur Anfragen von 127.0.0.1 und weist Webseiten ab, sodass eine von Ihnen besuchte Website Ihre Pläne nicht ausgeben kann. Browsererweiterungen wie WebBrain und Apps auf diesem Computer können es verwenden.
- Andere Geräte können nur dann eine Verbindung herstellen, wenn Sie den Netzwerkzugriff in den Einstellungen des Panels aktivieren. Anschließend lauscht es auf 0.0.0.0 und sie benötigen den API-Schlüssel, den das Panel anzeigt.
- Anmeldungen werden in Ihrem Benutzerordner gespeichert und nur an den Anbieter gesendet, zu dem sie gehören.
- Es gibt keine Analysen. Abgesehen von den Anbietern, bei denen Sie sich anmelden, ruft es nur die öffentliche Modellliste von CLIProxyAPI ab und, wenn Sie ein Modell installieren, seine Dateien von Hugging Face, GitHub und, für MLX, PyPI.
- An ein Abonnement gesendete Eingabeaufforderungen gehen weiterhin an diesen Anbieter. Auf Ihrem Computer laufen nur Bonsai 2 27B und d1.
Was Ihr Anbieter entscheidet
- Ein Abonnement, das über einen Proxy funktioniert, ist nicht dasselbe wie ein Abonnement, das der Anbieter zulässt. Die Verbraucherbedingungen von Anthropic beschränken den automatisierten Zugriff außerhalb eines API-Schlüssels, und die Gemini-CLI-Bedingungen von Google besagen, dass die Anmeldung nicht mit Tools von Drittanbietern verwendet werden darf.
- Überprüfen Sie die Bedingungen Ihres Plans und Ihrer Region, bevor Sie ihn hinzufügen. Wenn Ihnen ein Konto wichtig ist, ist ein Provider-API-Schlüssel der sicherere Weg.
- Halten Sie den Netzwerkzugriff im öffentlichen WLAN ausgeschaltet und leiten Sie Port 8327 niemals an das Internet weiter. Der API-Schlüssel bietet keine Sicherheit auf Internetniveau.