KI im Unternehmen gezielt einsetzen

In vielen Betrieben läuft KI-Nutzung gerade so: Jede Abteilung hat ihren eigenen OpenAI-Key, niemand weiß genau, was das kostet, und wer welche Daten wohin schickt, ist auch nicht so ganz klar. Das ist kein Vorwurf, das ist der normale Wachstumsschmerz. LiteLLM ist ein Werkzeug, das genau hier ansetzt.

Du stellst LiteLLM als eine Art Schaltzentrale vor deine KI-Modelle. Alle Anfragen aus deinem Betrieb laufen durch diesen einen Punkt, egal ob dahinter GPT-4o, Claude, Mistral oder ein selbst gehostetes Modell steckt. Du vergibst Budgets pro Team oder Projekt, siehst in Echtzeit, was verbraucht wird, und kannst einzelne Modelle oder Nutzergruppen mit wenigen Klicks sperren oder umleiten.

Für den Mittelstand ist das aus drei Gründen relevant: Kosten (ohne zentrale Steuerung explodieren API-Ausgaben gerne unbemerkt), Datenschutz (du lenkst sensible Daten gezielt auf lokale oder europäische Modelle) und Governance (wenn dein Auditor fragt, wer wann welche KI genutzt hat, hast du eine Antwort).

LiteLLM ist Open Source, kann selbst gehostet werden und hat eine verwaltete Cloud-Variante. Der Einstieg ist technisch, braucht also jemanden, der das aufsetzt. Aber wenn KI bei dir im Betrieb über ein, zwei Einzelpersonen hinausgeht, lohnt sich der Aufwand.

• golem.de · 15. Juli 2026

enercity macht es jetzt möglich: Kunden fragen Zählerstände ab, prüfen Vertragsdaten und erledigen typische Self-Service-Aufgaben direkt im ChatGPT-Interface. Kein Login im Kundenportal, kein Formular, kein Warteschleifentelefon.

Für dich als Unternehmer ist das weniger eine Energieversorger-Meldung als ein Muster, das du kennen solltest. Was enercity hier baut, ist eine sogenannte Custom Action: ChatGPT bekommt eine definierte Schnittstelle zu einem echten System und darf dort im Auftrag des Nutzers Daten abfragen. Das ist keine Zukunftsmusik mehr.

Die Frage, die sich daraus für deinen Betrieb ergibt: Welche wiederkehrenden Kundenanfragen landen heute bei deinen Mitarbeitern, obwohl die Antwort eigentlich schon irgendwo in einem System steckt? Bestellstatus, Liefertermine, offene Rechnungen, Projektstand. Wer solche Daten über eine saubere Schnittstelle zugänglich macht, kann daraus einen KI-gestützten Self-Service bauen, der rund um die Uhr funktioniert.

Der technische Aufwand dafür ist heute deutlich geringer als noch vor zwei Jahren. Du brauchst keine eigene App, kein neues Portal. Eine strukturierte Schnittstelle zu deinem Warenwirtschafts- oder CRM-System reicht als Grundlage.

Das Modell, das enercity hier umsetzt, lässt sich auf viele Branchen übertragen. Ein Maschinenbauer könnte Servicetechniker per ChatGPT auf Ersatzteilbestände zugreifen lassen. Ein Großhändler könnte Bestandsabfragen automatisieren, die heute noch per Telefon oder E-Mail laufen. Der gemeinsame Nenner ist immer derselbe: Ein bestehendes System hat die Daten bereits. Es fehlt nur die Verbindung nach außen. Genau das ist der Schritt, der sich jetzt lohnt.

• heise.de · 15. Juli 2026

Ein leistungsstarkes KI-Modell, das komplett auf dem Gerät läuft, ohne Cloud, ohne Datenweitergabe: Das ist die Richtung, die gerade Fahrt aufnimmt. PrismML hat mit Bonsai 27B gezeigt, dass sich ein Modell dieser Größe so weit komprimieren lässt, dass es auf einem iPhone läuft und dabei kaum an Qualität verliert. Mathematik und Code-Aufgaben sollen nahezu unverändert gut funktionieren.

Für deinen Betrieb ist das noch keine direkte Handlungsoption, aber ein klares Signal: KI wird zunehmend lokal. Das bedeutet, dass sensible Daten das Gerät künftig gar nicht mehr verlassen müssen. Gerade für den Mittelstand, der mit Datenschutz und DSGVO-Anforderungen jongliert, ist das eine relevante Entwicklung.

Apple testet die Technik offenbar bereits. Ob das in ein kommendes iOS-Update einfließt oder in eigene Apple-Intelligence-Funktionen, ist noch offen. Bonsai selbst ist als offenes Modell verfügbar, also nicht an Apple gebunden.

Kurz gesagt: Die Lücke zwischen Cloud-KI und dem, was lokal auf einem Gerät möglich ist, schließt sich schneller als gedacht.

• the-decoder.de · 15. Juli 2026

Neue Modelle kommen schnell. Die Frage, die viele Betriebe dabei unterschätzen, kommt noch schneller: Wo landen eigentlich die Daten, die dein KI-System verarbeitet?

Das ist kein Technik-Detail, das du an die IT-Abteilung delegieren kannst. Es geht um Kundeninformationen, interne Prozessdaten, vielleicht Vertragsunterlagen. Wer einen KI-Agenten einsetzt, der auf solche Daten zugreift, braucht eine klare Antwort darauf, ob die Verarbeitung in der EU stattfindet, welches Recht gilt und was im Zweifel mit den Daten passiert.

Ein konkretes Szenario: Du automatisierst deine Eingangsrechnungen mit einem KI-Dienst, der auf US-Servern läuft. Der Anbieter hat keinen Auftragsverarbeitungsvertrag angeboten, du hast nicht danach gefragt. Sechs Monate später prüft dein Steuerberater die Prozesse und stellt fest, dass Lieferantendaten und Zahlungskonditionen ohne Rechtsgrundlage außerhalb der EU verarbeitet wurden. Das kostet Zeit, Nerven und im schlechteren Fall eine Meldung an die Datenschutzbehörde.

Die gute Nachricht: Es gibt inzwischen Lösungen, die genau das vermeiden. Europäische Cloud-Anbieter, lokale Deployments und Modelle, die du auf eigener Infrastruktur betreibst, sind keine Nischenoptionen mehr. Sie sind reif, verfügbar und für den Mittelstand erschwinglich.

Praktisch bedeutet das: Bevor du einen KI-Prozess einführst, kläre drei Dinge. Erstens, welche Daten fließen in das System. Zweitens, wo der Anbieter diese Daten verarbeitet und speichert. Drittens, ob ein Auftragsverarbeitungsvertrag vorliegt. Wer das beim Start klärt, spart sich später teure Nacharbeit und schläft ruhiger.

• t3n.de · 15. Juli 2026

Dein Daily Morning Briefing. Direkt ins Postfach.

Jeden Morgen das Wichtigste aus dem KI-Maschinenraum, in 5 Minuten gelesen. Von Basti persönlich zusammengestellt.

15 Min Gespräch, kostenlos.

Wir schauen, wo KI in deinem Betrieb sofort Stunden spart.