Ihr Ziel
Sichtbar werden, wo KI antwortet
Prozesse automatisieren
Ein Produkt bauen
KI-Agenten einsetzen
Systeme verbinden und modernisieren
Wissen, wo wir stehen
Use Cases
CRMKundenbeziehungen stärkenBeliebtE-CommerceOnline-Umsatz steigernBuchungssystem24/7 Termine annehmenProjektmanagementTeams koordinierenRechnungswesenSchneller bezahlt werdenAnalyticsDatenbasiert entscheidenKI-Agenten einsetzen
Aufbau lokaler KI-Hardware mit offenen Sprachmodellen und KI-Agenten im eigenen Haus
Festpreis nach Scoping · Angebot in 48 h
Stand: September 2026
Lokale KI-Agenten sind KI-Assistenten, deren Sprachmodell und Agenten-Software auf Hardware im eigenen Unternehmen laufen statt bei einem Cloud-Anbieter.
Wir bauen KI-Infrastruktur direkt bei Ihnen auf: einen Mac Studio, eine NVIDIA DGX Spark oder einen Rechner mit AMD Ryzen AI Max – je nachdem, welche Modelle und wie viele Nutzer Sie brauchen. Darauf laufen offene Sprachmodelle wie Qwen, DeepSeek, GLM oder gpt-oss über eine lokale Laufzeitumgebung wie llama.cpp, Ollama, MLX oder vLLM. Für die Agenten setzen wir auf Hermes Agent, ein quelloffenes Agenten-Framework von Nous Research: mit Gedächtnis, wiederverwendbaren Skills, Zeitplaner und Anbindung an Slack, Telegram oder E-Mail. Über MCP greifen die Agenten auf Ihre Systeme zu – mit Freigaben, die Sie festlegen. Anfragen und Dokumente werden auf Ihrer Hardware verarbeitet, kein Cloud-Anbieter sieht sie.
Ideal für Unternehmen, die KI mit vertraulichen Daten nutzen wollen – Kundendaten, Verträge, Konstruktionspläne, Personalakten – und diese Daten nicht an einen Cloud-Anbieter geben dürfen oder wollen. Besonders passend für Kanzleien, Praxen, Industrie und Mittelstand mit hohen Anforderungen an Datenschutz und Geschäftsgeheimnisse.
Wir wählen die besten Tools für Ihre spezifischen Anforderungen
Die Maschine bei Ihnen vor Ort. Entscheidend ist der Speicher: Er bestimmt, wie große Modelle laufen.
| Klasse | Geräte | Speicher | Was realistisch läuft |
|---|---|---|---|
| KompaktEinzelne Teams | NVIDIA DGX Spark · Rechner mit AMD Ryzen AI Max+ | 128 GB | Modelle bis rund 120 Mrd. Parameter, etwa gpt-oss-120b |
| WorkstationFachabteilungen | Apple Mac Studio mit M5 Ultra | bis 512 GB | Große Mixture-of-Experts-Modelle mit mehreren hundert Mrd. Parametern |
| ClusterMehrere Abteilungen | 2–4 vernetzte Mac Studios oder DGX Sparks | 256 GB und mehr, verteilt | Sehr große Modelle, verteilt auf mehrere Geräte |
| EnterpriseUnternehmensweit | NVIDIA DGX Station · Workstations mit RTX PRO 6000 | 96 GB bis rund 780 GB | Viele gleichzeitige Nutzer im Produktivbetrieb |
Faustregel: Ein Modell braucht in 4-Bit-Quantisierung rund 0,6 GB Speicher pro Milliarde Parameter, dazu Platz für den Kontext. Die konkrete Auswahl treffen wir im Workshop anhand Ihrer Aufgaben.
Die Software, die das Modell ausführt und eine OpenAI-kompatible Schnittstelle bereitstellt.
MLX auf dem Mac, vLLM oder SGLang auf NVIDIA, llama.cpp auf AMD – jeweils das, was auf Ihrer Hardware am schnellsten läuft.
Offene Modelle, deren Gewichte auf Ihrer Hardware liegen. Wir wählen nach Aufgabe, Sprache und Lizenz.
| Familie | Stärke | Lizenz |
|---|---|---|
| Qwen (Alibaba) | Vielseitig, stark im Programmieren und mit Werkzeugen | Apache 2.0 bei kleinen und mittleren Varianten |
| DeepSeek | Logisches Denken, sehr große Varianten | MIT |
| GLM (Zhipu) | Agentische Aufgaben und Programmieren | MIT oder eigene Lizenz, je Variante |
| gpt-oss (OpenAI) | Kompakt, mit Werkzeugaufrufen | Apache 2.0 |
| Mistral | Europäischer Anbieter, mehrsprachig | Apache 2.0 |
| Gemma (Google) | Kleine bis mittlere Modelle, auch für Bilder | Apache 2.0 |
Neue Versionen erscheinen im Monatstakt. Wir testen vor dem Einsatz mit Ihren eigenen Daten und prüfen die Lizenz je Modell.
Hermes Agent plant Aufgaben, nutzt Werkzeuge und erinnert sich an frühere Gespräche.
Hermes Agent ist quelloffen (MIT-Lizenz) und stammt von Nous Research.
Lokal heißt nicht automatisch sicher. Darum gehört das zum Aufbau:
Ein moderierter Termin, an dessen Ende eine bewertete Liste Ihrer Vorhaben steht.
½–2 Tage · drei FestpreiseWir richten ein abgegrenztes System ein und übergeben es einsatzbereit.
1–2 Wochen · Festpreis nach ScopingWir bauen das Vorhaben aus und bleiben danach im Betrieb an Ihrer Seite.
nach Scoping, laufend · Festpreis nach Scoping; Begleitung monatlichIn einem Workshop (½–2 Tage) klären wir Aufgaben, Nutzerzahl und Daten und legen Hardware, Modelle und Lizenzen fest.
T1Einrichtung der Maschine bei Ihnen vor Ort, Laufzeitumgebung und die ausgewählten offenen Modelle.
W1Hermes Agent mit Skills und Anbindung an Ihre Systeme, Zugriffsrechte, Einweisung und Dokumentation.
W2Optional: weitere Agenten, Anbindungen und Nutzergruppen schrittweise, Umfang nach Scoping.
BuildSprechen Sie 30 Minuten unverbindlich mit uns, oder schreiben Sie uns direkt.
Festpreis nach Scoping · Angebot in 48 h
