Statt Daten zum Modell zu schicken, holst Du das Modell zu Deinen Daten – betreut im deutschen Rechenzentrum, On-Premise oder in Deiner eigenen Cloud.
Kostenlose KI-Erstberatung anfragen →
Zufriedene Kunden der Suchhelden GmbH
Sobald KI im Unternehmen ernst wird, taucht immer dieselbe Frage auf: Wohin gehen eigentlich unsere Daten? Der Vertragsentwurf, den jemand kurz zusammenfassen lässt. Die Kundenliste, die in einen Prompt kopiert wird. Das Protokoll aus der Geschäftsführungssitzung. Bei den großen KI-Diensten verlässt all das die eigene Infrastruktur – und genau daran scheitern viele KI-Projekte, bevor sie richtig angefangen haben.
LLM-Hosting dreht das um. Statt Daten zum Modell zu schicken, holst Du das Modell zu Deinen Daten. Das Sprachmodell läuft auf einem Server, den Ihr nach unserer Vorgabe mietet und den wir einrichten und über die gesamte Laufzeit betreuen. Der Server steht in einem Rechenzentrum in Deutschland, der Mietvertrag läuft auf Euren Namen. Im Englischen heißt das self hosted LLM: ein Modell, das Du selbst betreibst. Deine Inhalte bleiben dort, wo sie hingehören.
Wir bauen diese Umgebungen nicht als Bastellösung, sondern als betriebenes System: Modellauswahl, Server-Vorgabe, Zugriffsrechte, Oberfläche, Monitoring, Updates. Dein Team bekommt eine Chat-Oberfläche, die sich anfühlt wie die bekannten Dienste – nur eben auf Eurer Infrastruktur. Wie so eine Maschine aufgebaut und dimensioniert wird, zeigen wir im Überblick zum KI-Server für Unternehmen.
„Du kannst um die Welt fliegen um international Business zu machen – wir bringen Dein Business zum Fliegen. Wir bewegen uns durch datenbasierte Customer Journeys, setzen auf transparente Zusammenarbeit und positionieren Dein Business an die Spitze. Ein Business braucht keine Superkräfte, aber es braucht Helden – Suchhelden. Denn nicht alle Helden tragen Capes.“
LLM-Hosting: Dein eigenes Sprachmodell auf deutscher Infrastruktur
Der Reiz daran ist nicht die Technik an sich. Es ist die Tatsache, dass plötzlich Anwendungsfälle möglich werden, die vorher an der Freigabe gescheitert sind. Der Betriebsrat sitzt anders am Tisch, wenn Mitarbeiterdaten das Haus nicht verlassen. Die Rechtsabteilung prüft anders, wenn es keinen Drittanbieter gibt, mit dem etwas vereinbart werden müsste. Aus „das dürfen wir nicht" wird „das können wir machen" – und genau da fängt Wertschöpfung an.
Lass uns gemeinsam herausfinden, wo Künstliche Intelligenz in Deinem Unternehmen den größten Nutzen stiftet – ehrlich, unverbindlich und auf Augenhöhe. Wenn sich ein Projekt für Dich nicht rechnet, sagen wir Dir das genauso klar.
Verträge, Personalakten, Gutachten, Konstruktionsunterlagen, Patientendaten: In fast jedem Unternehmen liegen solche Inhalte. Ein Sprachmodell könnte sie hervorragend erschließen. Nur will oder darf sie niemand an einen externen Dienst geben. Die Folge ist meistens Stillstand. Entweder es passiert gar nichts, oder Mitarbeitende nutzen heimlich private Accounts, und dann passiert genau das, was eigentlich verhindert werden sollte.
Auf einem eigenen LLM-Server verlassen die Dokumente Deine Umgebung nicht. Zusammenfassen, vergleichen, Klauseln finden, Fragen ans Dokument stellen – alles läuft innerhalb Deiner Systemgrenze. Es gibt keine Abfrage nach außen, die man auditieren müsste, weil es keine Abfrage nach außen gibt.
Das verändert auch die Diskussion im Unternehmen. Statt für jeden neuen Anwendungsfall eine Einzelfreigabe zu erkämpfen, gibt es eine Umgebung mit klaren Regeln, in der gearbeitet werden darf. Und die Schatten-KI auf privaten Accounts verliert ihren Reiz, weil das offizielle Werkzeug besser ist als der Umweg.
Ein Standardmodell kennt die Welt, aber nicht Dein Unternehmen. Es weiß nicht, wie Eure Servicefälle typischerweise gelöst werden. Es kennt keine Ersatzteilnummern. Und es hat nicht gelesen, was in der letzten Arbeitsanweisung geändert wurde.
Wir koppeln das gehostete Modell an Deine Wissensquellen – Handbücher, Wikis, Ticketsysteme, Laufwerke, ERP-Auszüge. Dein Team fragt in normaler Sprache und bekommt Antworten mit Quellenangabe aus den eigenen Unterlagen. Neue Kolleg:innen finden sich schneller zurecht, Routinefragen landen seltener bei den Erfahrensten im Team.
Der Effekt zeigt sich vor allem an den Stellen, an denen Wissen bisher mündlich weitergegeben wurde. Wer seit fünfzehn Jahren dabei ist, weiß, warum eine bestimmte Baugruppe anders montiert wird als in der Zeichnung. Steht das irgendwo geschrieben, findet das Modell es. Steht es nirgends, wird sichtbar, dass es fehlt – auch das ist ein Ergebnis.
Solange drei Personen gelegentlich etwas ausprobieren, ist eine Cloud-API bequem. Anders sieht es aus, wenn hundert Mitarbeitende täglich damit arbeiten. Dokumente werden automatisiert verarbeitet, Prozesse laufen im Hintergrund. Jede Abfrage wird einzeln abgerechnet. Der Verbrauch schwankt mit der Auslastung.
Eigene Infrastruktur verhält sich anders. Die Kapazität steht, unabhängig davon, wie intensiv sie genutzt wird. Dazu kommt: Kein Anbieter kann Dir das Modell unter den Füßen wegziehen, abkündigen oder über Nacht anders verhalten lassen. Die Version, die Du produktiv nutzt, bleibt die Version, die Du getestet hast.
Dahinter steckt mehr als die Frage der Modellversion. Ein Anbieter kann Kontingente drosseln oder Zugänge sperren. Er kann ein Modell abkündigen oder sein Verhalten verändern. Ein eingespielter Prozess hängt dann an einer fremden Entscheidung. Auf eigener Infrastruktur entscheidest Du, was läuft und wie lange.
Ein Anbieterwechsel ist zudem teurer, als er aussieht. Prompts müssen neu geschrieben werden. Das neue Modell antwortet anders, und alle Mitarbeitenden gewöhnen sich um. Dieser Aufwand steht in keinem Angebot und fällt erst auf, wenn er anfällt.
Gerade bei automatisierten Abläufen ist das mehr wert, als es zunächst klingt. Wenn ein Prozess täglich tausende Dokumente durchschiebt, ist Verlässlichkeit wichtiger als das letzte Quäntchen Modellqualität. Ein System, das sich gestern anders verhalten hat als heute, kostet mehr Zeit in der Nachkontrolle, als es vorher eingespart hat.
Lass uns in einem kostenlosen Erstgespräch klären, ob und wie sich ein eigenes LLM für Dein Unternehmen lohnt.
Jetzt anfragen →Die Tabelle legt eine Entweder-oder-Entscheidung nahe, und genau so wird sie in vielen Unternehmen auch geführt. Nützlicher ist eine andere Frage: Welche Aufgabe berührt welche Daten? Eine Produktbeschreibung für den Onlineshop ist etwas anderes als eine Abmahnung, ein Konstruktionsplan oder eine Gehaltsübersicht. Wer das trennt, muss nicht die gesamte KI-Strategie an der sensibelsten Datenart ausrichten.
Ehrlich gesagt: Für viele Unternehmen ist am Ende ein hybrides Setup die richtige Antwort. Unkritische Aufgaben laufen weiter über eine Cloud-API, alles mit vertraulichen Inhalten über das eigene Modell. Welche Aufgabe wohin gehört, klären wir in der Analyse – nicht nach Bauchgefühl, sondern anhand der Datenarten, mit denen Ihr tatsächlich arbeitet.
Ihr mietet den Server, wir machen daraus Eure KI – und bleiben dabei, bis sie leistet, was sie soll. Wie Umfang, Laufzeit und Kosten im Einzelnen aussehen, steht in Eurem Angebot.
Wir klären zuerst, was die KI bei Euch erreichen soll. Welche Aufgaben übernimmt sie? Mit welchen Daten arbeitet sie? Wie viele Menschen nutzen sie, wie viele gleichzeitig? Und woran merkt Ihr, dass es funktioniert? Aus den Antworten werden messbare Ziele. Sie sind der Maßstab für jeden weiteren Schritt – auch für den letzten.
Konkret sprechen wir über drei Dinge: Welche Dokumentenarten sollen verarbeitet werden und wie vertraulich sind sie? Welche Systeme halten dieses Wissen heute? Und wer im Unternehmen wartet eigentlich auf die Lösung? Die letzte Frage wird oft übersprungen. Sie entscheidet am Ende darüber, ob das System genutzt wird oder verwaist.
Aus diesem Gespräch ergibt sich auch, ob ein eigenes Modell überhaupt der richtige Weg ist. Wenn eine schlanke Cloud-Lösung Deine Anforderungen erfüllt, sagen wir das offen. Lieber ein ehrliches Nein als ein Projekt, das sich nicht trägt.
Aus den Zielen leiten wir die Technik ab: Sprachmodell, Laufzeitumgebung, Oberfläche, Wissensanbindung. Die Modelle testen wir an Euren echten Aufgaben, nicht an Ranglisten. Daraus entsteht die Server-Vorgabe: Grafikspeicher, Prozessor, Arbeitsspeicher, Datenträger und Standort in Deutschland.
Die Modellauswahl treffen wir also nicht am Schreibtisch. Wir nehmen echte Aufgaben aus Deinem Alltag – ein paar typische Dokumente, ein paar typische Fragen – und lassen mehrere Modelle daran antreten. Was in einer Rangliste vorne liegt, muss bei deutschsprachigen Fachtexten aus Deiner Branche nicht die beste Wahl sein.
Am Ende dieses Schritts steht ein Konzept, das Technik, Zugriffsrechte, Anbindungen und Ausfallsicherheit benennt. Ihr wisst, was die Maschine können muss, bevor irgendetwas bestellt wird.
Den Server mietet Ihr selbst bei einem Rechenzentrumsbetreiber in Deutschland – in der Regel bei Hetzner oder IONOS, andere Anbieter nach Absprache. Der Vertrag läuft zwischen Euch und dem Betreiber; wir bekommen einen Verwaltungszugang für Einrichtung und Betreuung. Damit gehören Vertrag, Umgebung und Daten Euch. Ihr seid nicht an uns gebunden, weil die Maschine nicht an uns gebunden ist.
Wir setzen den Server auf: Treiber, Laufzeitumgebung, Netz- und Zugriffswege, Anmeldung über Euer Benutzerverzeichnis, Protokollierung, Backups. Danach bleiben wir zuständig, solange der Server läuft: Updates in abgestimmten Wartungsfenstern, Überwachung von Auslastung und Antwortzeiten, Hilfe im Störfall.
Dazu gehört auch das Unspektakuläre. Rechte und Gruppen sauber abbilden, Protokollierung einrichten, Backups aufsetzen. Den Update-Weg festlegen. Und dokumentieren, wie das System im Notfall wieder hochkommt. Diese Dinge entscheiden darüber, ob aus einem Prototyp ein Produktivsystem wird.
Auf Wunsch übergeben wir die Betreuung später an Deine IT – mit Dokumentation und Einarbeitung, ohne Abhängigkeit von uns. Weil der Server ohnehin auf Euren Namen läuft, ist das kein Umzug, sondern ein Wechsel der Zugänge.
Wir installieren die Modelle, binden Eure Wissensquellen und Systeme an, übernehmen die bestehenden Zugriffsrechte und legen Vorlagen für wiederkehrende Aufgaben an. Zuerst arbeitet eine kleine Testgruppe an echten Aufgaben, dann folgt der breite Start mit Schulung Eures Teams.
Diese Testphase ist uns wichtig. Eine kleine Gruppe echter Nutzer:innen arbeitet nicht an Demo-Beispielen, sondern an dem, was ohnehin auf dem Tisch liegt. Was dabei auffällt, fließt zurück in Rechte, Vorlagen, Wissensquellen und Modellauswahl. Erst danach entscheiden wir gemeinsam über den breiten Rollout. Diese Runde verhindert teure Fehlentscheidungen und zeigt, welche Schulung wirklich gebraucht wird.
Anwender:innen und Administrator:innen bekommen dabei getrennte Einweisungen. Wer das System nur nutzt, braucht andere Antworten als wer es mitbetreut. Am Ende steht keine Testinstallation, sondern eine Umgebung, mit der Dein Team arbeiten kann.
Jetzt beginnt die eigentliche Arbeit am Ergebnis. Wir messen die Antworten gegen die Ziele aus Schritt 1 und verbessern in festen Runden: Wissensquellen und ihre Aufbereitung, Anweisungen und Vorlagen, Testkataloge, Rückmeldungen Eurer Mitarbeitenden – und dort, wo es messbar hilft, ein Nachtraining (Feintuning) des Modells. Für das Training verwenden wir niemals echte Daten: Die Trainingsbeispiele erfinden wir gemeinsam mit Euch. Mehr dazu steht auf unserer Seite zur automatischen Datengenerierung. Eure echten Dokumente bleiben in der Wissensanbindung, wo Ihr sie jederzeit ändern oder löschen könnt. Das Training läuft als fortlaufendes Beratungsmandat, bis die vereinbarten Ziele erfüllt sind – ohne lange Bindung.
Die interessanten Anforderungen kommen ohnehin erst von den Nutzer:innen. Eine weitere Wissensquelle. Ein Vorlagen-Satz für wiederkehrende Texte. Eine Auswertung, an die vorher niemand gedacht hat. Wir greifen das auf, statt das System einzufrieren.
Der Begriff LLM steht für „Large Language Model", also ein Sprachmodell, das Texte versteht und erzeugt. Bekannt sind vor allem die Modelle der großen Anbieter. Daneben gibt es leistungsfähige Open-Source-Modelle, die Du herunterladen und selbst betreiben darfst – und genau die sind die Grundlage für eigenes Hosting.
Der Abstand zwischen beiden Welten ist in den letzten Jahren deutlich kleiner geworden. Modelle, die man heute auf überschaubarer Hardware betreiben kann, lösen Aufgaben, für die vor kurzem noch die Spitzenmodelle der großen Anbieter nötig waren. Für den Mittelstand ist das die eigentliche Nachricht: Eigenbetrieb ist kein Kompromiss mehr, den man aus Datenschutzgründen eingeht, sondern eine ernsthafte Option.
Diese drei Begriffe werden oft vermischt, meinen aber Unterschiedliches. LLM-Hosting ist der Oberbegriff. Das Modell läuft auf einem Server, der Dir zugeordnet ist. Bei uns ist das ein Server, den Ihr nach unserer Vorgabe in einem deutschen Rechenzentrum mietet. On-Premise heißt, die Hardware steht in Deinen eigenen Räumen. Lokale KI bezeichnet Modelle, die ohne Internetverbindung auskommen, im Extremfall sogar auf einem einzelnen Rechner.
Im englischen Sprachraum heißt dasselbe self hosted LLM, oft auch geschrieben als self-hosted LLM. Gemeint ist genau das, was diese Seite beschreibt: ein Sprachmodell, das nicht beim Anbieter läuft, sondern auf eigener oder Dir zugeordneter Infrastruktur. Das deutsche Gegenstück lautet LLM selbst hosten. Wichtig ist die Trennlinie: Self hosting sagt etwas über den Betreiber aus, nicht über den Ort. Ob die Maschine im eigenen Keller oder im gemieteten Rechenzentrum steht, bleibt offen. Wer in englischsprachigen Quellen recherchiert, findet unter diesem Begriff die gleichen Fragen wie hier.
Unser Standard ist der gemietete, dedizierte Server auf Euren Namen. Er bringt die Datenhoheit, ohne dass jemand Hardware beschaffen, einbauen und kühlen muss. Die Architektur bleibt dabei dieselbe, egal wie groß das Setup später wird. Wächst die Nutzung, wächst die gemietete Maschine mit.
Verlangen Eure Vorgaben Hardware im eigenen Haus, setzen wir das nur in Absprache um. Dann arbeiten wir mit einer Partnerfirma zusammen, die die Geräte bei Euch aufbaut und vor Ort betreut. Wir selbst bauen keine Hardware bei Kund:innen ein. Was dabei zu beachten ist, steht auf unserer Seite zu On-Premise.
Eine zweite Frage wird oft zu spät gestellt: Wem gehört der Betrieb? Bei uns ist die Antwort einfach: Ihr mietet die Infrastruktur direkt, wir bekommen einen Verwaltungszugang. Vertrag, Umgebung und Daten gehören Euch, und Ihr könnt den Dienstleister wechseln, ohne dass das System stillsteht. Wir sind Betreuer, nicht Eigentümer.
Das ist der praktische Kern von „kein Vendor-Lock-in". Eine Abhängigkeit entsteht nicht durch Technik, sondern durch Verträge und Zugänge. Wenn beides bei Euch liegt, bleibt die Zusammenarbeit freiwillig.
Der Markt wartet nicht – belegte Zahlen
stufen generative KI als geschäftskritisch ein.
KPMG 2025der Mittelständler haben noch keine konkrete KI-Strategie.
KI-Index Mittelstand, H-KAjährliches Produktivitätspotenzial generativer KI weltweit.
McKinsey Global InstituteGemeinsam schauen wir, wo KI Deine Prozesse sinnvoll verbessern, Dein Team entlasten oder neue Möglichkeiten schaffen kann. Konkret, praxisnah und immer mit Blick darauf, was für Dein Unternehmen wirklich Mehrwert bringt.
Wir arbeiten modellagnostisch. Es gibt nicht das eine beste Modell und nicht den einen richtigen Stack. Gesucht ist die Kombination, die zu Deinen Aufgaben, Deiner Hardware und Deinem Datenschutzbedarf passt.
Die Grafikkarte bestimmt, welches Modell in welcher Geschwindigkeit läuft. Wir dimensionieren die Vorgabe anhand Deiner realistischen Nutzung – nicht anhand des größten verfügbaren Modells. Dazu kommen Monitoring, Protokollierung, Backup und ein Update-Pfad für Modelle und Systemkomponenten.
Entscheidend ist dabei weniger die reine Rechenleistung als der Grafikspeicher: Er bestimmt, welches Modell überhaupt vollständig geladen werden kann. Aus dieser Rechnung entsteht die Server-Vorgabe, die Ihr beim Rechenzentrum bestellt. Gemietete Kapazität hat dabei einen Vorteil: Sie lässt sich anpassen, wenn die Auslastung sich ändert.
Grundsatz: Kein Vendor-Lock-in. Wir empfehlen immer die Lösung, die am besten zu Euren Anforderungen passt – und nicht die, die uns am längsten bindet. Ein gehostetes Modell muss auch dann noch funktionieren, wenn Ihr den Betrieb irgendwann selbst übernehmt.
Open WebUI und vergleichbare Oberflächen geben Deinem Team eine vertraute Chat-Umgebung. Angebunden an Euer bestehendes Benutzerverzeichnis über SSO, mit Rollen und Gruppen: Wer welche Wissensquelle sehen darf, steuerst Du zentral. Ein Modell ohne saubere Rechteverwaltung ist im Unternehmen kein fertiges Produkt.
Dieser Punkt wird oft unterschätzt. Technisch ist ein Modell schnell installiert. Ob es benutzt wird, entscheidet die Oberfläche. Wir legen deshalb Wert auf Kleinigkeiten: gespeicherte Vorlagen für wiederkehrende Aufgaben, sichtbare Quellenangaben, eine verständliche Fehlermeldung statt einer Fachmeldung. Wer das Werkzeug ohne Schulung bedienen kann, nutzt es auch in der dritten Woche noch.
Llama, Mistral, Qwen, DeepSeek und weitere frei verfügbare Modelle bilden die Basis. Sie unterscheiden sich in Größe, Sprachqualität, Fachwissen und Lizenzbedingungen. Für deutschsprachige Fachtexte wählen wir andere Modelle als für Programmierunterstützung oder Dokumentenextraktion. Die Lizenzfrage prüfen wir vor dem Einsatz mit – nicht jedes „offene" Modell darf uneingeschränkt kommerziell genutzt werden.
Wichtig ist auch die Modellgröße. Ein kleineres Modell antwortet schnell und läuft auf bezahlbarer Hardware. Im Alltag ist das oft wertvoller als ein großes Modell, das bei jeder Anfrage spürbar hängt. Wir suchen den Punkt, an dem Qualität und Antwortzeit für Deine Aufgaben zusammenpassen.
Zwischen Nutzer:innen und Modell sitzt ein zentraler Dienst: das Gateway. Es nimmt jede Anfrage entgegen und leitet sie an das passende Modell weiter. Seine Schnittstelle ist kompatibel zu der der großen Anbieter. Das klingt nach einem Detail, entscheidet aber darüber, wie teuer Veränderungen später werden.
Der erste Effekt: Bestehende Tools, Skripte und Automatisierungen lassen sich ohne Umbau anbinden. Ein Programm, das bisher mit einer Cloud-Schnittstelle gesprochen hat, spricht danach mit Eurem eigenen Modell. Meist genügt es, Adresse und Zugangsschlüssel zu tauschen.
Der zweite Effekt: Rechte, Protokollierung und Nutzungsübersichten laufen an einer Stelle zusammen. Du siehst an einem Ort, wer welches Modell nutzen darf und wie stark das System beansprucht wird.
Der dritte Effekt ist der wichtigste: Ein Modellwechsel wird zur Konfigurationsänderung. Kommt ein besseres Modell, hängen wir es hinter dasselbe Gateway. Oberfläche, Anbindungen und Gewohnheiten der Nutzer:innen bleiben. Auch der Ausbau folgt diesem Muster: Wachsen Modell oder Rechenleistung, ist das ein Upgrade und kein zweites Projekt.
RAG – kurz für „Retrieval Augmented Generation" – verbindet das Modell mit Euren Dokumenten. Das Modell wird dabei nicht neu trainiert. Stattdessen sucht das System bei jeder Frage die passenden Stellen aus Euren Quellen und legt sie dem Modell vor. Das hält Antworten aktuell, nachvollziehbar und belegbar. Bestehende Rechte lassen sich dabei übernehmen, sodass niemand über die KI Inhalte sieht, die er sonst nicht sehen dürfte.
Der Aufwand steckt weniger im Modell als in der Aufbereitung: Welche Quellen kommen rein? Wie werden Dokumente zerlegt? Wie geht das System mit veralteten Versionen um? Und was passiert, wenn zwei Unterlagen sich widersprechen? Diese Fragen entscheiden über die Antwortqualität – deutlich stärker als die Wahl des Sprachmodells.
vLLM, Ollama und llama.cpp sind die Werkzeuge, die das Modell tatsächlich ausführen. vLLM ist auf viele gleichzeitige Nutzer:innen ausgelegt und die übliche Wahl für Unternehmensbetrieb. Ollama ist schlanker und eignet sich für kleinere Installationen und Testumgebungen. Welches Werkzeug zum Einsatz kommt, entscheidet sich an der erwarteten Last.
Warum KI-Helden
Keine lange Vertragsbindung. Volle Flexibilität, volle Kostenkontrolle.
Statt sechsstelliger Projektkosten: flexibles Monatsmodell.
Modellunabhängig und immer am neuesten Stand — keine Bindung an ein LLM.
Persönlicher Ansprechpartner, Jour-Fixe-Calls und dediziertes Umsetzungsteam.
Die folgenden Anwendungsfälle sehen wir in Projekten am häufigsten. Fast alle starten klein: eine Abteilung, ein klar umrissenes Thema. Von dort wächst das System, weil Kolleg:innen aus anderen Bereichen sehen, was möglich ist.
Arbeitsanweisungen, Handbücher, Protokolle und Wikis werden angebunden. Mitarbeitende fragen in normaler Sprache und bekommen Antworten mit Verweis auf die Quelle. Besonders wertvoll dort, wo Wissen an einzelnen Personen hängt und bei Urlaub, Krankheit oder Renteneintritt verloren zu gehen droht. Die Einarbeitung neuer Kolleg:innen wird spürbar leichter, weil Rückfragen nicht mehr zwingend jemanden aus der Arbeit reißen.
Verträge, Angebote, Prüfberichte und Formulare werden gelesen, verglichen und strukturiert ausgewertet – ohne dass die Inhalte das Haus verlassen. Fristen, Klauseln oder Abweichungen lassen sich gezielt herausziehen, Ergebnisse fließen direkt in die nachgelagerten Systeme. Dein Team prüft die Ausnahmen statt jedes einzelne Dokument. Mehr dazu bei unserer KI-Dokumentenverarbeitung.
Angebotstexte, Serviceantworten, Protokollzusammenfassungen, Stellenausschreibungen: Das Modell liefert den Entwurf, Dein Team prüft und gibt frei. Weil das Modell Eure bisherigen Dokumente kennt, trifft es Tonfall und Fachsprache deutlich besser als ein Standarddienst. Das spart weniger Zeit beim Schreiben als beim Anfangen – und der leere Bildschirm ist bei den meisten Texten der teuerste Teil.
Eingehende Anfragen werden vorsortiert, mit passenden Fällen aus der Historie verknüpft und mit Antwortvorschlägen versehen. Die Servicemitarbeitenden entscheiden weiterhin – sie starten nur nicht mehr bei null. Weil Kundendaten dabei im Haus bleiben, lässt sich auch die Fallhistorie anbinden, die man einem externen Dienst nicht geben würde. Ergänzend sinnvoll: intelligente KI-Assistenten für interne Wissensabfragen.
Code-Unterstützung, Dokumentation, Log-Analyse und Migrationshilfe – auf einem Modell, das den eigenen Quellcode verarbeiten darf. Für viele Entwicklungsabteilungen ist das der erste Anwendungsfall, bei dem ein externer Dienst nicht in Frage kommt: Mit dem Code würden auch Geschäftslogik und Sicherheitsmechanismen abfließen. Als angenehmer Nebeneffekt ist die IT anschließend die Abteilung, die den Betrieb am besten versteht.
CRM, ERP, DMS, Ticketsystem: Das gehostete Modell lässt sich über Schnittstellen in vorhandene Abläufe einhängen. So entsteht aus dem Chatfenster Schritt für Schritt eine KI-Prozessautomatisierung, die im Hintergrund arbeitet. Der Einstieg über die Chat-Oberfläche hat einen praktischen Vorteil. Dein Team lernt im Alltag, was das Modell gut kann. Welche Prozesse sich zu automatisieren lohnen, benennt es dann meist selbst.
Ein Weg dorthin ist MCP – ein offener Standard, über den sich interne Systeme als Werkzeuge anbinden lassen. Das Modell chattet dann nicht nur, sondern greift direkt auf Ticketsystem, Dateiablage oder Datenbank zu. Es schlägt einen Vorgang nach, statt ihn zu erraten. Welche Werkzeuge freigegeben sind und wer sie nutzen darf, legst Du fest. Damit verschiebt sich der Nutzen: vom Textwerkzeug hin zum Assistenten, der in Euren Systemen arbeitet.
Agenturen, Kanzleien, Ingenieurbüros und IT-Dienstleister verarbeiten Daten ihrer eigenen Auftraggeber. Sobald KI ins Spiel kommt, fragen diese Auftraggeber nach, wo ihre Inhalte landen und wer sie sehen kann. Gebraucht werden Unterlagen, die sich weiterreichen lassen: ein Auftragsverarbeitungsvertrag und eine Beschreibung der technischen und organisatorischen Schutzmaßnahmen.
Eigener Betrieb hält diese Kette kurz und nachvollziehbar – es gibt keinen weiteren Anbieter, der in die Beschreibung gehört. Du kannst benennen, wo der Server steht, wer Zugriff hat und was protokolliert wird. Für viele Dienstleister wird das zum Argument im Vertrieb, nicht nur zur Pflichtübung. Eine gute Ausgangslage ist es allemal – mehr aber auch nicht. Eine vollständige Rechtsberatung können wir nicht leisten: Für die datenschutzrechtliche Bewertung zieh bitte spezialisierte Datenschutzberater:innen oder Deine:n Datenschutzbeauftragte:n hinzu.
Ein selbst betriebenes Modell ist nicht in jeder Disziplin so stark wie das jeweils größte Cloud-Modell. Für Textverständnis, Zusammenfassungen, Klassifikation, Extraktion und Arbeit mit eigenen Dokumenten sind gute Open-Source-Modelle in der Praxis stark genug.
Eigene Infrastruktur bedeutet auch Verantwortung: Ein Mietvertrag läuft weiter, Modelle werden abgelöst, Sicherheitsupdates müssen eingespielt werden. Genau dafür gibt es das laufende Mandat. Wer das weder selbst leisten noch betreuen lassen will, ist mit einem Cloud-Dienst ehrlicher bedient – auch das sagen wir Dir lieber vorher als hinterher. Und ein eigener Server löst nicht automatisch alle Fragen: Was das Modell antwortet, muss weiterhin geprüft werden. Ein Sprachmodell kann auch auf Eurem Server danebenliegen. Eigenes Hosting bringt Datenhoheit – die inhaltliche Kontrolle bleibt bei Deinem Team. Deshalb gehören Quellenangaben, Rechtegrenzen und klare Zuständigkeiten für Freigaben von Anfang an dazu.
Lass uns gemeinsam klären, ob sich ein eigenes LLM für Euch lohnt – und wenn ja, in welcher Ausbaustufe Ihr am besten startet. Kostenlos und unverbindlich.
KI-Helden ist die KI-Abteilung der Suchhelden GmbH aus Osnabrück. Seit über einem Jahrzehnt arbeiten wir mit Unternehmen an digitalen Projekten. Vom Start-up bis zum internationalen Konzern, branchenunabhängig. Über 4.000 realisierte Projekte, ein Team aus über 140 Held:innen.
Was das für Dein LLM-Projekt bedeutet: Wir kommen nicht aus der reinen Forschung, sondern aus der Umsetzung. Uns interessiert weniger, welches Modell auf dem Papier vorn liegt, als die Frage, ob Dein Team das System in drei Monaten noch benutzt. Deshalb reden wir früh über Rechte, Oberflächen und Schulung – und nicht nur über Parameter und Grafikkarten.
Die Kosten bestehen aus drei Posten. Erstens die Servermiete, die Ihr direkt an das Rechenzentrum zahlt – wir stehen dabei nicht dazwischen. Zweitens das einmalige Setup: Server einrichten, KI installieren, im Unternehmen einführen. Drittens das laufende Mandat für Betreuung und Training. Wie hoch die Posten ausfallen, hängt an Modellgröße, Nutzerzahl und Umfang der Anbindungen. In der kostenlosen Erstberatung klären wir Euren Bedarf. Danach bekommt Ihr ein transparentes, unverbindliches Angebot – ohne lange Bindung.
Nein. Ihr mietet einen dedizierten Server in einem Rechenzentrum in Deutschland nach unserer Vorgabe. Die Daten bleiben in Eurer abgegrenzten Umgebung, ohne dass Ihr Hardware beschaffen und unterbringen müsst. Der Vertrag läuft auf Euren Namen, wir bekommen nur einen Verwaltungszugang. In der Regel sind das Betreiber wie Hetzner oder IONOS, andere nach Absprache. Sind eigene Räume vorgeschrieben, geht das nur in Absprache – gemeinsam mit einer Partnerfirma, die die Hardware bei Euch aufbaut und betreut.
Entscheidend ist die Grafikleistung, genauer der Grafikspeicher. Kleinere Modelle laufen bereits auf überschaubarer Ausstattung, große Modelle mit vielen gleichzeitigen Anfragen brauchen entsprechend mehr. Wir dimensionieren nach Deiner tatsächlichen Nutzung, damit Du weder ausgebremst wirst noch Kapazität bezahlst, die brachliegt. Daraus entsteht eine konkrete Vorgabe: Grafikspeicher, Prozessor, Arbeitsspeicher, Datenträger und Standort. Genau diesen Server mietet Ihr dann beim Rechenzentrum.
Ein self hosted LLM ist eine sehr gute Ausgangslage. Inhalte verlassen Deine Umgebung nicht, und Du bestimmst den Serverstandort. Datenschutz planen wir von Anfang an mit: Serverstandort, Zugriffsrechte, Protokollierung, Auftragsverarbeitung. Standort, Zugriffswege und Protokolle lassen sich jederzeit nachweisen. Eine vollständige Rechtsberatung können wir nicht leisten – für die datenschutzrechtliche Bewertung zieh bitte spezialisierte Datenschutzberater:innen oder Deine:n Datenschutzbeauftragte:n hinzu.
Self hosted LLM bezeichnet ein Sprachmodell, das Du selbst betreibst statt es beim Anbieter zu nutzen. Der Begriff sagt nichts über den Ort. Unser Weg ist der Server, den Ihr nach unserer Vorgabe in einem deutschen Rechenzentrum mietet. On-Premise ist die engere Variante: eigene Hardware in eigenen Räumen. Die setzen wir nur in Absprache um, gemeinsam mit einer Partnerfirma. Lokale KI meint Modelle, die ohne Verbindung nach außen arbeiten. Beide Begriffe erklären wir ausführlich auf den Seiten zu On-Premise und zur lokalen KI.
Es gibt kein bestes Modell, sondern ein passendes. Für deutschsprachige Fachtexte, für Programmierung und für Dokumentenextraktion fallen die Antworten unterschiedlich aus. Wir testen mehrere Kandidaten an Deinen echten Aufgaben und entscheiden anhand der Ergebnisse – nicht anhand von Benchmark-Tabellen.
Über eine RAG-Anbindung. Deine Dokumente werden aufbereitet und durchsuchbar gemacht. Bei jeder Frage sucht das System die passenden Stellen und legt sie dem Modell vor. Das Modell selbst wird dabei nicht verändert, wodurch neue oder geänderte Dokumente sofort wirken, ohne dass irgendetwas neu trainiert werden muss.
Training heißt bei uns messen und verbessern, bis die Ziele erreicht sind. Die größten Sprünge bringen drei Hebel: die Anbindung Eures Wissens, gute Anweisungen und Vorlagen sowie die Rückmeldungen Eures Teams. Ein Nachtraining des Modells (Feintuning) setzen wir nur an, wenn Fachsprache oder feste Ausgabeformate es verlangen. Dazu muss der Test den Nutzen zeigen und die Modelllizenz es erlauben. Echte Daten verwenden wir dafür nie. Die Trainingsbeispiele erfinden wir gemeinsam mit Euch. Das Training läuft als laufendes Beratungsmandat.
Ja. Ein lokal betriebenes Modell braucht für die Antworten keine Verbindung nach außen. Das ist überall dort relevant, wo Netze bewusst abgeschottet sind – etwa in der Produktion, in kritischer Infrastruktur oder in der Verwaltung. Für Updates und Modellwechsel wird eine Verbindung benötigt, die sich aber zeitlich und technisch eng begrenzen lässt.
Das hängt vom Umfang ab: Eine Chat-Umgebung für eine Abteilung ist schneller einsatzbereit als ein Setup mit mehreren angebundenen Systemen und feingranularen Rechten. Wir nennen bewusst keine festen Fristen, sondern starten mit dem Anwendungsfall, der den größten Nutzen bringt, und bauen von dort aus weiter.
Nein. Als Dein KI-Team auf Abruf übernehmen wir Zielklärung, Stack-Auswahl, Einrichtung, Betreuung und Training. Dein Team bekommt eine Umgebung, die es ohne tiefes KI-Wissen nutzen kann, dazu eine Schulung und eine Dokumentation. Gebraucht wird nur eine Ansprechperson bei Euch, die Zugänge und Freigaben klären kann. Wer später selbst übernehmen möchte, kann das – wir bauen bewusst ohne Abhängigkeit von uns.
Dann tauschen wir es aus. Genau das ist ein Vorteil des eigenen Betriebs: Der Wechsel passiert dann, wenn Du es willst, und wird vorher an Deinen Aufgaben getestet. Bei einer Cloud-API entscheidet der Anbieter, wann sich Verhalten und Version ändern.
Ein LLM ist ein System wie jedes andere und braucht dieselbe Sorgfalt: abgesichertes Netz, Rechtekonzept, Protokollierung, Updates. Dazu kommen KI-typische Risiken wie Prompt Injection, bei der über manipulierte Inhalte versucht wird, das Modell zu Handlungen zu bewegen. Wir berücksichtigen das beim Aufbau – etwa durch klare Rechtegrenzen und dadurch, dass das Modell nur auf freigegebene Quellen zugreift.
Ja, und das empfehlen wir sogar. Ein überschaubarer Anwendungsfall mit einer Abteilung zeigt schnell, wo der Nutzen wirklich liegt und welche Fragen im Alltag aufkommen. Von dort lässt sich erweitern, ohne dass die erste Investition verloren geht.
Das hängt an Modellgröße und Hardware. Entscheidend ist nicht die Zahl der Konten, sondern wie viele Anfragen gleichzeitig laufen. In der Praxis arbeiten selten alle zur selben Sekunde. Ein gut dimensionierter Server bedient deshalb deutlich mehr Menschen, als die reine Rechnung vermuten lässt. Wir planen mit Reserve und beobachten die Auslastung im Betrieb. Wird es eng, kommt Kapazität dazu.
Der EU AI Act regelt den Einsatz von KI nach Risiko. Wer ein Modell nur intern nutzt, fällt meist in eine niedrigere Risikoklasse als jemand, der KI gegenüber Kund:innen einsetzt. Pflichten zu Transparenz, Dokumentation und Schulung können trotzdem greifen. Eigener Betrieb hilft dabei, weil Du nachvollziehen kannst, was das System tut. Die rechtliche Einordnung für Deinen konkreten Fall gehört aber in fachkundige Hände.
Ja, und oft ist genau das sinnvoll. Ein schnelles kleines Modell für Alltagsfragen, ein größeres für komplexe Analysen, dazu vielleicht ein Spezialmodell für Code. Die Oberfläche zeigt Deinem Team die passende Auswahl, ohne dass jemand über Technik nachdenken muss. Welche Kombination sich lohnt, entscheiden wir anhand der Auslastung – nicht jedes zusätzliche Modell rechtfertigt die Hardware, die es braucht.
In der Regel ja. Wir prüfen in der Analyse, welche Schnittstellen vorhanden sind – APIs, Webhooks, Datenbankzugänge – und was gebaut werden muss. Gängige Systeme im Mittelstand bringen fast immer Anbindungsmöglichkeiten mit. Wo sie fehlen, entwickeln wir sie.
In den meisten Fällen ja, und zwar ohne Umbau. Vor dem Modell sitzt ein Gateway, dessen Schnittstelle kompatibel zu der der großen Anbieter ist. Skripte, Automatisierungen und fertige Programme sprechen deshalb weiter dieselbe Sprache – meist reicht es, Adresse und Zugangsschlüssel zu tauschen. Über dieselbe Stelle laufen außerdem Rechte, Protokollierung und Nutzungsübersichten. Was im Einzelfall nicht passt, finden wir in der Analyse heraus, bevor Ihr etwas umstellt.
Bei einem Cloud-Dienst ist das mehr als ein Vertragswechsel: Prompts müssen neu geschrieben werden, das neue Modell antwortet anders, und alle Mitarbeitenden gewöhnen sich um. Dieser Aufwand steht in keinem Angebot und wird fast immer unterschätzt. Beim eigenen Betrieb liegt das Modell hinter dem Gateway. Oberfläche und Anbindungen bleiben gleich, der Tausch wird zur Konfigurationsänderung. Vorher testen wir das neue Modell an Euren echten Aufgaben.
Ja, und das wird häufiger verlangt, als viele erwarten. Wer Daten im Auftrag verarbeitet, braucht Unterlagen zum Weiterreichen: einen Auftragsverarbeitungsvertrag und eine Beschreibung der technischen und organisatorischen Maßnahmen. Beim eigenen Betrieb bleibt diese Kette kurz, weil kein weiterer Anbieter dazwischensteht. Die technische Beschreibung liefern wir: Standort, Zugriffswege, Rechte, Protokollierung. Die rechtliche Bewertung gehört in fachkundige Hände – bitte zieh dafür Deine:n Datenschutzbeauftragte:n hinzu.
