Lokale KI
Ein Sprachmodell in Ihrem Firmennetz
Wer Unternehmensdaten in eine Cloud-KI lädt, gibt sie aus dem eigenen Netz. Wir setzen ein offenes Sprachmodell auf dedizierter Hardware bei Ihnen im Haus auf. Die Daten bleiben, wo sie sind.
Warum lokal?
Rezepturen, Kalkulationen, Kundendaten, Verträge: Mit diesen Daten wird eine KI im Unternehmen erst nützlich. Und genau diese Daten gehören nicht in ein fremdes Rechenzentrum.
Ein lokales System ändert die Ausgangslage. Es gibt keine Verbindung nach außen, und Sie entscheiden, welche Daten es überhaupt sieht.
Was wir aufsetzen
Das Modell ist frei verfügbar (Open Weights) und läuft auf einer Hardware, die wir nach Aufgabe und Nutzerzahl dimensionieren. Für kleinere Teams reicht ein Rechner der Workstation-Klasse, kein Rechenzentrum.
Das Modell allein ist zahnlos. Der lokale KI-Agent bekommt durch unser Regelwerk klare Schranken und nur jene Werkzeuge die er braucht. Die gesamte Infrastruktur bleibt kontrollier- und überwachbar.
Das Regelwerk
Das Regelwerk erzeugen wir, dokumentiert und änderbar. Sie können jederzeit nachvollziehen, was das System darf.
Voraussetzung: Ihre Daten
Eine KI ist so gut wie die Daten, die sie bekommt. Liegen Produktdaten, Rezepturen und Dokumente strukturiert vor, funktioniert das ab dem ersten Tag. Wenn nicht, machen wir zuerst die Datenhausaufgaben. Dafür gibt es Corporate Information Management und PIM.
Anwendungsfälle
So läuft ein Projekt
-
1
Clarity Check, ein halber Tag bei Ihnen im Haus: Datenquellen, Abläufe, Anforderungen.
-
2
Konzept mit Regelwerk, Hardware-Empfehlung und Aufwandsrahmen.
-
3
Proof of concept in einer geschützten Staging-Umgebung.
-
4
Betrieb und Erweiterung: Modell-Updates, neue Datenquellen, neue Anwendungsfälle.
Was Sie erwarten dürfen
Ein lokales Modell antwortet nicht so schnell wie ein Cloud-Dienst auf Rechenzentrums-Hardware. Im Unternehmen spielt das selten eine Rolle: Chat-Anfragen laufen flüssig, große Auswertungen laufen im Hintergrund, und niemand wartet daneben.
Bei Allgemeinwissen ist ein lokales Modell schwächer als die großen Cloud-Dienste. Für den Zweck im Unternehmen ist das egal. Es arbeitet mit Ihren Daten, nicht mit dem Internet.
Wie das System dazulernt
Neue Dokumente und Datenquellen werden angebunden, nicht antrainiert. Was das System aus Rückmeldungen lernt, hält es in Memories fest. Ein eigens auf Ihre Firma trainiertes Modell (Fine-Tuning) ist möglich, für die meisten Anwendungsfälle aber nicht nötig.
Häufige Fragen
Das Modell ja, das Regelwerk nein. Das Modell ist ein frei verfügbares Open-Weight-Modell, das wir nach Aufgabe auswählen. Datenquellen, Berechtigungen und Freigaben legen wir für Ihr Unternehmen fest.
In der Bedienung ähnlich: Sie stellen Fragen, laden Dokumente hoch, bekommen Antworten. Der Unterschied: Die Antworten kommen aus Ihren Daten, und Ihre Daten verlassen das Netz nicht.
Das hängt von Modellgröße und Nutzerzahl ab. Für kleinere Teams reicht ein Rechner der Workstation-Klasse, für viele gleichzeitige Nutzer ein Server mit passender Grafikkarte. Die Empfehlung ist Teil des Konzepts.
Neue Datenquellen werden angebunden, das Regelwerk wird erweitert. Das System wächst mit dem Unternehmen mit, ohne dass ein Modell neu trainiert werden muss.
Die Daten verlassen Ihr Netz nicht. Das nimmt den größten Teil der Fragen vom Tisch. Rechtsgrundlage, Betroffenenrechte und die Pflichten aus dem AI Act bleiben bei Ihnen als Betreiber. Wir dokumentieren das System so, dass Sie das belegen können.
Clarity Check:
Ein halber Tag bei Ihnen
Wir setzen uns mit den Leuten zusammen, die Ihre Daten heute pflegen, lassen uns die Abläufe erklären und schauen, wo welche Informationen liegen. Sie bekommen eine Bestandsaufnahme, ein Konzept und einen Plan mit Aufwandsrahmen. Danach entscheiden Sie.