Lokale KI
Sprachmodelle im eigenen Haus.
Offene Modelle sind gut genug für echte Arbeit — Chat, Dokumente durchsuchen, Code. Der Unterschied zur Cloud-KI: Eure Daten bleiben da, wo sie hingehören. Bei euch.
Lokale KI heißt, offene Sprachmodelle wie Llama, Qwen oder Kimi mit Werkzeugen wie Ollama, Open WebUI und RAGFlow auf eigener Hardware oder EU-Servern zu betreiben — Prompts und Dokumente verlassen das Unternehmen nicht.
Was ich aufbaue
- Modell- und Hardware-Beratung: was für euren Anwendungsfall reicht — von der Workstation bis zum GPU-Server
- Chat und Assistenz mit Ollama und Open WebUI, im Team nutzbar
- RAG auf euren eigenen Dokumenten mit RAGFlow: Antworten aus eurem Wissen, nicht aus dem Internet
- Coding-Assistenz mit lokalen Modellen (Llama, Qwen, Kimi & Co.)
- DSGVO-Einbettung: lokale KI ersetzt den Prozess nicht — sie macht ihn einfacher
- Betrieb, Updates und Modellpflege danach
So läuft’s ab
Erstgespräch
Kostenlos: Welcher Anwendungsfall, welche Daten, welche Erwartung?
Pilot
Ein Use Case, echte Daten, klares Erfolgskriterium — bevor ihr investiert.
Rollout
Vom Pilot zum Team-Werkzeug: Rechte, Oberfläche, Anbindung.
Betrieb
Updates, Modellwechsel, Monitoring — KI ist Software, sie will gepflegt werden.
Für wen das gedacht ist
Für Unternehmen, die KI nutzen wollen, ohne Kundendaten an US-Anbieter zu schicken — und für alle, die erst mit einem überschaubaren Pilot prüfen wollen, was lokale Modelle wirklich können.
Häufige Fragen
Ist lokale KI gut genug? +
Für viele Aufgaben ja: Texte, Zusammenfassungen, Suche über eigene Dokumente, Code-Assistenz. Ob sie für euren Fall reicht, zeigt ein Pilot mit echten Daten schneller als jede Folienschlacht.
Welche Hardware brauchen wir? +
Das hängt vom Modell und der Nutzerzahl ab — von der einzelnen Workstation bis zum dedizierten GPU-Server. Die Dimensionierung ist Teil der Beratung; gekauft wird erst, wenn der Bedarf klar ist.
Sind wir damit automatisch DSGVO-konform? +
Nein — lokale KI löst das Übermittlungsproblem, ersetzt aber nicht den Prozess: Zwecke, Rechtsgrundlagen, Löschkonzepte bleiben nötig. Der Vorteil: Mit Daten im Haus ist dieser Prozess deutlich einfacher.
Was kostet der Einstieg? +
Der Pilot ist bewusst klein geschnitten und bekommt vorab eine klare Aufwandsschätzung — nach dem kostenlosen Erstgespräch weißt du, womit du rechnen musst.
Aus dem Blog
CLOUD Act trotz EU-Region: das ist keine Souveränität
Der CLOUD Act gilt auch für AWS-Server in Frankfurt: US-Behörden können auf Daten in der EU-Region zugreifen. Warum EU-Server allein keine Souveränität sind.
Lokale KI im Unternehmen: eigene Modelle statt Cloud
Lokale KI statt ChatGPT: Wann Kundendaten auf eigene Modelle gehören, was Cloud-KI erledigen darf und wie Datenschutz dabei praktisch bleibt.
DSGVO-konforme KI ist kein Ort, sondern ein Prozess
„Läuft in der EU, also konform“ ist zu kurz gedacht. Was KI wirklich datenschutzkonform macht — und eine einfache Matrix, welche Daten wohin dürfen.
KI ja — aber ohne Datenabfluss?
Im kostenlosen Erstgespräch finden wir den Use Case, der sich als Pilot lohnt.