Jan Männig
Senior Developer | Backend
12. Januar 2026
12 min
Warum KI mehr braucht als einen Cloud-Zugang
KI ist in vielen Unternehmen längst beschlossen.
Die strategische Entscheidung ist gefallen. Doch zwischen „Wir setzen auf KI“ und „KI bringt echten Mehrwert“ liegt oft eine Lücke.
Denn sobald KI Teil des Arbeitsalltags wird, geht es nicht mehr nur um Möglichkeiten, sondern um Verantwortung:
Genau hier setzt unser m:e GPT an. Als klarer, pragmatischer Weg zu einer KI, die zu uns als Digitalagentur move:elevator passt.
Warum ein eigener GPT sinnvoll ist
Unser eigener GPT hat für uns den den Blick auf KI verändert.
Sie ist kein externer Service mehr, sondern Teil unserer Organisation.
Das bedeutet:
Unser m:e GPT steht genau für diesen Perspektivwechsel:
KI nicht nur nutzen, sondern bewusst gestalten.
Ollama: Der einfachste Weg zu lokalen LLMs
Ollama ist das technische Fundament von m:e GPT.
Man kann es sich wie einen App Store für Large Language Models vorstellen – nur eben lokal.
Statt komplizierter Setups bekommst du eine schlanke Lösung, mit der sich Open-Source-Modelle schnell installieren, verwalten und nutzen lassen. Modelle wie Llama, gpt-oss, Gemma, DeepSeek oder Qwen stehen direkt zur Verfügung.
Was Ollama dabei besonders stark macht:
Kurz gesagt: Ollama räumt den Infrastrukturballast aus dem Weg und bringt dich schnell ins Arbeiten.
Installation: Unkompliziert statt Overengineering
Der Einstieg ist bewusst niedrigschwellig gehalten.
Je nach Betriebssystem lässt sich Ollama bequem installieren – auf macOS, Windows, Linux oder auch in Server-Setups. Nach der Installation reicht oft ein einzelner Befehl, um das erste Modell zu laden. Kein langes Setup, keine Konfigurationshölle. Das lokale Sprachmodell steht innerhalb kürzester Zeit bereit.
Gerade für Teams, die KI schnell testen oder intern einführen wollen, ist das ein enormer Vorteil. Der Fokus liegt nicht auf Technik um der Technik willen, sondern auf dem, was wirklich zählt: Anwendung und Mehrwert.
Modelle: Von Allrounder bis Code-Spezialist
Im Modellverzeichnis von Ollama findest du eine breite Auswahl an Modellen für unterschiedliche Aufgaben.
Dazu gehören:
- allgemeine Sprachmodelle für Text, Analyse und Zusammenfassungen, wie z.B.: Llama,gpt-oss
- spezialisierte Coding-Modelle für technische Anwendungsfälle, wie z.B.: CodeLlama, Qwen-Coder oder Codestral
- Embedding-Modelle für semantische Suche und wissensbasierte Anwendungen
Das Entscheidende:
Modelle lassen sich einfach herunterladen, auflisten und wechseln – ohne komplexe Konfiguration. So wird KI gezielt dort eingesetzt, wo sie den größten Nutzen bringt.
Ollama ohne UI nutzen: API first
Wer KI nicht nur nutzen, sondern produktiv einbauen möchte, profitiert vom API-first-Ansatz von Ollama.
Über die lokale API lässt sich die KI direkt aus eigenen Anwendungen heraus ansprechen. Für gängige Programmiersprachen stehen passende Libraries zur Verfügung, ergänzt durch Community-SDKs. Auch bestehende Frameworks lassen sich anbinden.
So wird KI Teil bestehender Systeme – nicht nur eine zusätzliche Oberfläche.
Wenn du KI aber nicht nur technisch nutzen, sondern strategisch einbinden willst, unterstützt unsere KI-Transformation dabei, KI verständlich und gewinnbringend in deine Organisation zu integrieren.
LibreChat: Die ChatGPT-Alternative zum Selbsthosten
Während Ollama das technische Fundament liefert, bringt LibreChat die passende Oberfläche mit. Die Web-UI fühlt sich vertraut an und bietet gleichzeitig volle Kontrolle über Daten, Modelle und Funktionen. LibreChat läuft self-hosted, ist frei konfigurierbar und unterstützt neben klassischen Chats auch Custom GPTs, Tools und wissensbasierte Anwendungen.
Kurz gesagt: Es fühlt sich an wie die Nutzung von ChatGPT – nur mit voller Kontrolle über Daten, Modelle und Funktionen. Es gehört also ganz euch.
Ollama & LibreChat verbinden: Custom Endpoints
Damit Ollama-Modelle direkt in LibreChat genutzt werden können, werden sogenannte Custom Endpoints eingerichtet. Mit überschaubaren Anpassungen in der Konfiguration lassen sich die lokalen Modelle anbinden und stehen anschließend direkt in der Oberfläche zur Auswahl.
Der technische Aufwand ist gering – der Zugewinn an Flexibilität dafür umso größer.
Custom GPTs: Eigene Agenten statt Einheits-KI
Ein echtes Highlight von LibreChat sind individuelle Agenten. Statt einer allgemeinen KI entstehen spezialisierte GPT-Instanzen mit klarer Aufgabe.
Diese Agenten arbeiten mit festen Service-Prompts, können zusätzliche Tools und Workflows integrieren und greifen bei Bedarf auf eigene Wissensquellen zu. Jedes Setup lässt sich individuell konfigurieren – vom Modell bis zur Arbeitsweise.
So entstehen spezialisierte KI-Helfer für Content-Erstellung, Analyse, Dokumentation oder interne Prozesse.
Open Web UI: Die einfache Alternative
Du willst schneller starten und weniger konfigurieren?
Dann kann eine reduzierte Oberfläche wie Open Web UI sinnvoll sein.
Weniger Tiefe, weniger Struktur – aber perfekt für einfache Setups oder erste Tests.
Und vLLM? Die Profi-Variante für Produktion
Für produktive, skalierte Umgebungen lohnt sich ein Blick auf vLLM. Der Fokus liegt hier auf hoher Performance, geringeren Latenzen und GPU-optimierten Setups.
Während Ollama auf Einfachheit und lokale Nutzung abzielt, ist vLLM die richtige Wahl für anspruchsvolle Produktionsszenarien. Beide Ansätze bedienen unterschiedliche Anforderungen und Reifegrade.
Fazit: Eigener GPT, eigene Regeln
Mit Ollama und LibreChat wird klar:
Man braucht kein Cloud-Abo, um leistungsfähige KI sinnvoll einzusetzen. Ob lokales Experiment, internes Tool oder datensensibler Anwendungsfall – der Stack bietet volle Kontrolle über Daten, flexible Modellwahl und echte Custom GPTs. Vor allem aber eröffnet er einen realistischen Weg in Richtung produktiver KI-Nutzung.
Oder anders gesagt:
Euer GPT. Eure Daten. Eure Spielregeln.
FAQs
Wir wissen: Begriffe wie lokale Sprachmodelle, Custom GPTs oder self-hosted KI wirken im ersten Moment technisch und werfen schnell neue Fragen auf. Gerade wenn es um eigene KI-Setups mit Ollama und LibreChat geht, entstehen Unsicherheiten: Was steckt konkret dahinter? Wie aufwendig ist das wirklich? Damit du den Überblick behältst, haben wir die häufigsten Fragen rund um unseren m:e GPT für dich beantwortet. Verständlich erklärt, praxisnah eingeordnet und ohne unnötigen Technik-Jargon. Und wenn danach noch etwas offen bleibt: Wir sind da – als Partner für strategische, kontrollierte KI-Nutzung.
Was ist m:e GPT eigentlich genau?
m:e GPT ist unser Ansatz für einen eigenen, unternehmensinternen GPT. Statt auf eine externe Cloud zuzugreifen, laufen Sprachmodelle lokal oder self-hosted – kontrolliert, anpassbar und nah an euren Prozessen. Es ist kein einzelnes Tool, sondern ein flexibles Setup, das sich an unsere Anforderungen anpasst.
Warum sollte ich einen eigenen GPT nutzen statt einer Cloud-KI?
Weil Kontrolle zählt.
Ein eigener GPT bedeutet: Die Daten bleiben bei einem selbst, Workflows geben den Takt vor und die KI passt sich an das Unternehmen an – nicht umgekehrt. Gerade bei dem erstellen unseres eigenen GPTs haben wir gemerkt, dass es ein echter Vorteil ist, wenn es um sensible Inhalten oder individuelle Prozesse geht.
Was bedeutet „lokale Sprachmodelle“ konkret?
Lokale Sprachmodelle laufen nicht auf fremden Servern, sondern auf der eigenen Infrastruktur oder in einem kontrollierten Hosting. Die Daten verlassen damit nicht das Unternehmen. Das schafft Sicherheit, Transparenz und Vertrauen – besonders bei sensiblen Inhalten.
Für welche Unternehmen ist ein eigener GPT sinnvoll?
Besonders für Organisationen, die KI produktiv einsetzen wollen und dabei Wert auf Datenkontrolle, Anpassbarkeit und strategische Klarheit legen. Ob Marketing, Kommunikation, Produktteams oder interne Services.
Was unterscheidet Custom GPTs von klassischen KI-Tools?
Custom GPTs sind auf eine klare Aufgabe zugeschnitten. Sie arbeiten mit definierten Regeln, Tonalitäten und Zielen. Statt einer Einheits-KI entstehen spezialisierte Helfer, die wirklich zu euren Workflows passen.
Möchtest du mehr erfahren?
together. we.move:hearts
Du willst wissen, wie du mit dem besten digitalen Kundenerlebnis die Herzen deiner Kund:innen gewinnen kannst?
Let's talk!