Contentoren

KI & Automatisierung

Eigene Unternehmens-KI 2026: Lokales LLM, Kosten & DSGVO

Eigene KI im Unternehmen: lokales LLM, EU-Plattform oder ChatGPT? Vergleich, 3-Jahres-Kosten für 25 und 100 Nutzer, GPU-Sizing, DSGVO, AI Act und § 203 StGB.

16 Min. Lesezeitvon Contentoren Redaktion
Teilen
Zwei Bauingenieure arbeiten an einem ausgedruckten Bauplan, der jüngere tippt eine Frage in einen Laptop.

Das Wichtigste in Kürze

Kurz gesagt:

  • Eigene Unternehmens-KI heißt: Ein offenes Sprachmodell (Open-Weight-LLM) läuft auf einem Server, der nur Ihrem Unternehmen dient – vor Ort oder in einem deutschen bzw. EU-Rechenzentrum – und beantwortet Fragen auf Basis freigegebener Firmendokumente.
  • Es gibt vier Wege: öffentliche SaaS (ChatGPT Business/Enterprise, Microsoft 365 Copilot, Gemini), EU-Plattformen wie Langdock, private Modelle auf eigenem oder EU-GPU-Server und Hybrid.
  • Kosten: SaaS skaliert pro Nutzer (z. B. 20 US-Dollar bei ChatGPT Business, 26 € beim Microsoft-365-Copilot-Add-on), ein eigener Server hat feste Kapazitätskosten. Bei 25 Nutzern ist SaaS günstiger, bei 100 Nutzern liegen private Umgebungen in derselben Größenordnung (siehe Kostentabelle).
  • Für 2026 taugliche offene Modelle wie gpt-oss-120b laufen laut Model Card auf einer einzigen 80-GB-GPU, kleinere wie gpt-oss-20b mit 16 GB Speicher.
  • Private KI ist kein Freifahrtschein: DSGVO, AI-Act-Kompetenzpflicht (Art. 4) und für Kanzleien § 203 StGB gelten weiter – sie werden nur besser beherrschbar.

Die meisten Unternehmen nutzen KI längst – oft über private Accounts, ohne Freigabe und ohne Überblick, welche Daten wohin gehen. Die Frage für 2026/27 lautet daher nicht mehr „KI ja oder nein“, sondern: Wo läuft unsere KI, wer sieht die Daten und was kostet das über drei Jahre? Dieser Ratgeber vergleicht die Optionen mit geprüften Listenpreisen (Stand 6. November 2026), zeigt, welche Hardware welches Modell trägt, und ordnet DSGVO, EU AI Act und Berufsgeheimnis ein.

Was ist eine eigene Unternehmens-KI – und was nicht?

Eine eigene Unternehmens-KI besteht aus vier Bausteinen:

  1. Sprachmodell (LLM): ein Open-Weight-Modell, dessen Gewichte Sie herunterladen und selbst betreiben dürfen – im Gegensatz zu den Modellen hinter ChatGPT oder Gemini, die nur als Cloud-Dienst verfügbar sind.
  2. Inferenz-Server: ein Server mit GPU und einer Serving-Software wie vLLM, die eine OpenAI-kompatible Schnittstelle bereitstellt. Dadurch funktionieren viele bestehende Tools ohne Umbau.
  3. Wissensanbindung (RAG): Retrieval-Augmented Generation durchsucht freigegebene Dokumente – Handbücher, Verträge, Angebote – und gibt dem Modell nur die relevanten Passagen mit. Das Modell wird dafür nicht neu trainiert.
  4. Rechte, Protokolle, Betrieb: Anmeldung, Rollen, Protokollierung, Updates, Backups und Überwachung. Dieser Teil entscheidet in der Praxis über Erfolg oder Misserfolg.

Nicht gemeint ist ein „lokales LLM“ auf dem Laptop eines Mitarbeiters. Das ist für Experimente nützlich, aber ohne zentrale Rechte, Protokollierung und Wartung keine Unternehmenslösung.

Die Datenschutzkonferenz (DSK) unterscheidet in ihrer Orientierungshilfe „KI und Datenschutz“ zwischen offenen Systemen (Cloud-Dienst für einen unbestimmten Nutzerkreis) und geschlossenen Systemen (eingegrenzte, technisch abgeschlossene Umgebung mit begrenztem Nutzerkreis). Ihr Fazit: „Technisch geschlossene Systeme sind daher aus datenschutzrechtlicher Sicht vorzugswürdig.“ Eine eigene Unternehmens-KI ist genau so ein geschlossenes System.

Welche Optionen gibt es 2026 im Vergleich?

Kriterium Öffentliche SaaS (ChatGPT, Copilot, Gemini) EU-Plattform (z. B. Langdock) Privates Modell auf eigenem/EU-GPU-Server Hybrid
Datenort Je nach Vertrag; EU-Datenresidenz bei OpenAI nur für Enterprise/Edu und API, bei Copilot EU Data Boundary Anwendung und die meisten Modelle (konfigurierbar) in der EU (Langdock Security); Modelle von Drittanbietern Ihr Server, Standort frei wählbar (vor Ort, DE, EU) Sensible Daten privat, Rest extern
CLOUD-Act-Risiko Möglich, da US-Anbieter (siehe unten) Geringer, aber abhängig von Hosting und Modellanbietern (Langdock: Azure in der EU) Gering bei EU-Betreiber ohne US-Konzernbezug Nur für den externen Teil
Preislogik Pro Nutzer und Monat Pro Nutzer und Monat, API nach Verbrauch Fixe Server- und Betriebskosten Mischung
Modellwahl Nur Modelle des Anbieters Viele Modelle (GPT, Claude, Gemini u. a.) Offene Modelle (gpt-oss, Mistral, Gemma, Qwen) Beides
Integration Tief in Microsoft 365 bzw. Google Workspace Konnektoren, Agenten, Workflows Individuell (Dokumentenablage, CRM, Postfächer) Individuell
Administrationsaufwand Gering Gering bis mittel Hoch – oder ausgelagert an Dienstleister Hoch
Modellqualität Spitzenmodelle Spitzenmodelle Sehr gut für Alltag/RAG, nicht ganz Frontier Beides

Was bedeutet der CLOUD Act praktisch?

Der US CLOUD Act (18 U.S.C. § 2713) verpflichtet US-Anbieter, Daten in ihrem Besitz, Gewahrsam oder ihrer Kontrolle auf Anordnung herauszugeben – unabhängig davon, ob die Daten in den USA oder außerhalb gespeichert sind. EU-Rechenzentren eines US-Konzerns schließen den Zugriff daher rechtlich nicht sicher aus. Wie hoch dieses Risiko für Ihre Daten tatsächlich ist, ist eine Abwägung: Das EU-US Data Privacy Framework gilt weiter; das Gericht der EU hat die Klage dagegen am 3. September 2025 abgewiesen. Für gewöhnliche Büroinhalte halten viele Datenschutzbeauftragte US-SaaS mit Auftragsverarbeitungsvertrag für vertretbar. Für Mandatsgeheimnisse, Gesundheits- oder Personaldaten und Geschäftsgeheimnisse greifen Unternehmen zunehmend zu Infrastruktur ohne US-Bezug.

Was kostet eigene KI im Vergleich zu ChatGPT, Copilot und Langdock?

Die folgende Tabelle rechnet Listenpreise bei jährlicher Zahlung, ohne Umsatzsteuer, über 36 Monate. Sie zeigt die Preislogik, nicht Ihr individuelles Angebot.

Option (Stand 6. November 2026) Listenpreis 25 Nutzer, 3 Jahre 100 Nutzer, 3 Jahre Nicht enthalten
ChatGPT Business, Standard-Seat 20 US$/Nutzer/Monat (jährlich), länderabhängig 18.000 US$ 72.000 US$ Premium-Seats (100 US$), Zusatz-Credits; EU-Datenresidenz nur bei Enterprise
Microsoft 365 Copilot Business (Add-on) 18,20 €/Nutzer/Monat (aktuell Aktionspreis 15,60 €) 16.380 € 65.520 € Microsoft-365-Business-Lizenz
Microsoft 365 Copilot (Enterprise-Add-on) 26,00 €/Nutzer/Monat (jährlich) 23.400 € 93.600 € Qualifizierende Microsoft-365-Lizenz
Langdock Core 23,20 €/Nutzer/Monat für die ersten 50, danach 19,20 € (Standardansicht der Preisseite) 20.880 € 76.320 € Work-Plan (31,20 €), Workflow-Pakete, API-Nutzung
Contentoren Unternehmens-KI KI-Team 5.900 € + 990 €/Monat (bis 25 Nutzer); für große Teams Paket Individuell ab 9.900 € + ab 1.900 €/Monat (Kapazität nach Vereinbarung) 41.540 € ab 78.300 € Verbrauchsabhängige Token-/API-Kosten, weitere Bausteine
Selbstbetrieb, Hetzner GEX131 (1× 96 GB GPU) 1.499 € Einrichtung + 1.499 €/Monat 55.463 € 55.463 € (Kapazität prüfen) Software, Sicherheit, Personal für Betrieb

So lesen Sie die Zahlen:

  • Bei 25 Nutzern sind Lizenzen pro Nutzer günstiger. Eine private Umgebung kostet hier mehr – Sie bezahlen für Datenkontrolle, eigene Rechtekonzepte und Betreuung, nicht für den günstigsten Preis.
  • Bei 100 Nutzern kehrt sich das Bild teilweise um. Server- und Betriebskosten wachsen nicht linear mit jedem Sitz, Lizenzen schon. Copilot Enterprise liegt dann bereits über 90.000 €, ohne Basislizenz.
  • Selbstbetrieb wirkt billig, ist es aber selten. Der Hetzner-Server allein ist nur die Infrastruktur. Hinzu kommen Einrichtung, Sicherheitsupdates, Monitoring, Rechteverwaltung, Wissensaufbereitung und Bereitschaft bei Ausfällen. Wer dafür eine halbe interne Stelle einplant, liegt schnell über jedem Paketpreis.
  • Was im Paketpreis steckt: Bei der Contentoren Unternehmens-KI enthalten die Monatspreise laut Angebotsseite dedizierten GPU-Server in einem deutschen bzw. EU-Rechenzentrum, lokales Modell, beide Sicherheitsstufen, Betrieb, Updates, Überwachung und Datensicherung. Token- bzw. API-Kosten sind nicht enthalten und werden separat nach Verbrauch berechnet. Alle Preise netto zzgl. MwSt., Mindestlaufzeit 12 Monate.

Ein ausführlicher Preis- und Funktionsvergleich mit Microsoft steht in unserem Beitrag Microsoft Copilot Alternative; die Gegenüberstellungen mit ChatGPT Business und Langdock folgen.

Welche Hardware braucht ein lokales LLM?

Die wichtigste Größe ist der Grafikspeicher (VRAM). Als Faustregel braucht ein Modell in 16-Bit-Genauigkeit etwa 2 Byte pro Parameter für die Gewichte, in 8 Bit etwa 1 Byte, in 4 Bit etwa ein halbes. Dazu kommt Speicher für den Kontext (KV-Cache), der mit Dokumentlänge und Zahl gleichzeitiger Anfragen wächst. Mistral nennt für Mistral Small 3.2 mit 24 Milliarden Parametern rund 55 GB GPU-Speicher in bf16 – das passt zur Faustregel plus Puffer.

Diese offenen Modelle sind im November 2026 verfügbar (Angaben aus den Model Cards der Hersteller):

Modell Lizenz Größe Hardware-Angabe des Herstellers Typischer Einsatz
gpt-oss-20b (OpenAI) Apache 2.0 21 Mrd. Parameter, 3,6 Mrd. aktiv Läuft mit 16 GB Speicher Pilot, kleine Teams, Klassifikation
Ministral 3 14B (Mistral AI) Apache 2.0 14 Mrd. Passt in FP8 in 24 GB VRAM Einstieg auf einer 24-GB-GPU
Mistral Small 3.2 24B Apache 2.0 24 Mrd. ca. 55 GB in bf16 Abteilungs-Assistent, RAG
Gemma 4 31B / 26B A4B (Google) Apache 2.0 30,7 Mrd. bzw. 25,2 Mrd. (3,8 Mrd. aktiv), 256K Kontext Für Consumer-GPUs und Workstations ausgelegt Text und Bild, viele Sprachen
Qwen3.8-27B (Alibaba) Apache 2.0 27 Mrd., 262K Kontext Keine Angabe; FP8-Variante verfügbar Lange Dokumente, Agenten
gpt-oss-120b (OpenAI) Apache 2.0 117 Mrd., 5,1 Mrd. aktiv Eine 80-GB-GPU (z. B. H100) Unternehmensweiter Assistent
Mistral Medium 3.5 Modified MIT 128 Mrd. (dicht) vLLM-Beispiel mit 8 GPUs Nur für Firmen bis 20 Mio. US$ Monatsumsatz frei

Zwei Lizenzfallen, die viele Ratgeber übersehen:

  • Llama 4: Metas Acceptable Use Policy gewährt die Rechte an den multimodalen Llama-4-Modellen nicht an Unternehmen mit Hauptsitz in der EU. Für europäische Betreiber ist Llama 4 daher meist keine Option.
  • Mistral Medium 3.5: Die Lizenz schließt Unternehmen mit mehr als 20 Mio. US-Dollar konsolidiertem Monatsumsatz aus; sie brauchen eine kommerzielle Lizenz.

Welche GPU-Klasse passt zu welcher Unternehmensgröße?

  • 24 GB (z. B. RTX PRO 4000): kleine Modelle bis ca. 14 Mrd. Parameter in FP8; Pilot oder ein Team mit wenigen gleichzeitigen Anfragen. Hetzner listet so einen Server (GEX45) für 214 € im Monat netto – allerdings nur im Rechenzentrum Helsinki; das 96-GB-Modell GEX131 gibt es auch in Falkenstein.
  • 80–96 GB (H100, RTX PRO 6000): Modelle der 24–32-Mrd.-Klasse in voller Genauigkeit oder gpt-oss-120b. Für die meisten Mittelständler der realistische Produktionsrahmen.
  • Mehrere GPUs (4–8): dichte Modelle über 100 Mrd. Parameter, hohe Parallelität, viele Abteilungen.

Wie viele Nutzer ein Server trägt, hängt von Antwortlänge, Dokumentmenge und Gleichzeitigkeit ab – nicht von der Mitarbeiterzahl. Seriöse Planung heißt: mit echten Fragen und realistischer Last testen, bevor Sie Kapazität festschreiben.

Wie wird Firmenwissen sicher angebunden (RAG)?

RAG macht aus einem allgemeinen Modell einen Assistenten für Ihr Wissen. Damit das zuverlässig funktioniert:

  1. Quellen bewusst freigeben: Starten Sie mit aktuellen, geprüften Dokumenten – nicht mit dem gesamten Laufwerk samt veralteter Versionen.
  2. Rechte vererben: Die KI darf nur zeigen, was die fragende Person auch in der Quelle sehen dürfte. Bei Copilot ist das Tenant-Berechtigungsmodell maßgeblich; bei privater KI legen Sie es pro Bereich fest.
  3. Quellenangaben erzwingen: Antworten mit Verweis auf Dokument und Abschnitt sind prüfbar und reduzieren Halluzinationen.
  4. Testfragen definieren: einige Dutzend typische Fragen mit erwarteter Antwort als Abnahmetest – und erneut nach jedem Modellwechsel.
  5. Schreibrechte getrennt behandeln: Lesen ist etwas anderes als E-Mails versenden oder CRM-Daten ändern. Schreibaktionen gehören in eigene Freigaben.

Welche Rollen, Rechte und Protokolle brauchen Sie?

Checkliste für den Betrieb:

  • Persönliche Anmeldung mit Passkey oder Zwei-Faktor, keine Sammelkonten
  • Bereiche (z. B. Vertrieb, Personal, Buchhaltung) mit getrennten Quellen und Rechten
  • Rollen: fachlich Verantwortliche pflegen Quellen, IT/Dienstleister betreibt, Datenschutz prüft
  • Protokollierung: Wer hat wann welche Anfrage gestellt, welche Quellen wurden genutzt?
  • Aufbewahrungs- und Löschfristen für Protokolle und Chatverläufe festlegen
  • Betriebsrat einbinden: Personenbezogene Protokolle sind technische Einrichtungen, die zur Verhaltens- oder Leistungskontrolle geeignet sind – das löst Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG aus
  • Update- und Rollback-Prozess für Modell und Software, Backups, Notfallplan
  • Netzwerk: KI nicht öffentlich im Internet erreichbar, Zugriff nur über privates Netz oder Zero-Trust-Zugang

Was verlangen DSGVO und EU AI Act?

DSGVO

  • Auftragsverarbeitung (Art. 28 DSGVO): Betreibt ein Dienstleister den Server oder die Plattform, brauchen Sie einen AVV mit technischen und organisatorischen Maßnahmen. Das gilt für SaaS genauso wie für einen betreuten privaten Server.
  • Datenschutz-Folgenabschätzung (Art. 35 DSGVO): Laut DSK ist sie beim Einsatz von KI-Anwendungen „vielfach“ erforderlich (Orientierungshilfe, Abschnitt 2.3). Bei eigener KI können Sie die dafür nötigen Informationen über Datenflüsse selbst liefern, statt auf Herstellerangaben angewiesen zu sein.
  • Rechtsgrundlage und Zweck: Auch ein lokales Modell darf Personaldaten nicht für beliebige Zwecke auswerten. Automatisierte Entscheidungen mit Rechtswirkung bleiben nach Art. 22 DSGVO grundsätzlich Menschen vorbehalten.
  • Anbieterwechsel: Ab dem 12. Januar 2027 dürfen Anbieter von Datenverarbeitungsdiensten nach Art. 29 EU Data Act keine Wechselentgelte mehr verlangen. Fragen Sie trotzdem vorab, wie Sie Dokumente, Konfiguration und Protokolle exportieren.

EU AI Act

Wer ein KI-System im eigenen Unternehmen einsetzt, ist Betreiber (Deployer) im Sinne der KI-Verordnung. Für einen internen Wissensassistenten bedeutet das vor allem:

  • KI-Kompetenz (Art. 4): Seit dem AI Omnibus müssen Anbieter und Betreiber Maßnahmen ergreifen, um die Entwicklung von KI-Kompetenz ihrer Mitarbeitenden zu unterstützen; ein bestimmtes Niveau muss nicht garantiert werden (FPF-Analyse). Schulung und KI-Richtlinie bleiben die praktische Antwort.
  • Transparenz (Art. 50): Gilt laut FPF seit dem 2. August 2026, vor allem für KI, die mit Kunden spricht – etwa einen Website-Chat. Ein interner Assistent ist meist weniger betroffen.
  • Hochrisiko: Setzen Sie KI für Bewerberauswahl oder Leistungsbewertung ein, greifen ab dem 2. Dezember 2027 die Pflichten für Hochrisiko-Systeme nach Anhang III (FPF). Solche Anwendungsfälle gehören in eine gesonderte Prüfung.

Was gilt für Kanzleien, Steuerberater und andere Berufsgeheimnisträger?

Rechtsanwälte, Steuerberater, Wirtschaftsprüfer, Ärzte und weitere Berufsgruppen machen sich nach § 203 StGB strafbar, wenn sie fremde Geheimnisse unbefugt offenbaren – mit Freiheitsstrafe bis zu einem Jahr oder Geldstrafe. Seit der Reform erlaubt § 203 Abs. 3 StGB die Offenbarung gegenüber „sonstigen mitwirkenden Personen“, etwa IT-Dienstleistern, soweit dies erforderlich ist. Die Berufsgesetze konkretisieren das:

  • § 43e BRAO (Rechtsanwälte) und § 62a StBerG (Steuerberater) verlangen einen Vertrag in Textform mit Verschwiegenheitsverpflichtung, Belehrung über die strafrechtlichen Folgen und Regeln für Subunternehmer.
  • Bei Dienstleistungen im Ausland darf der Zugang nur eröffnet werden, wenn dort ein vergleichbarer Geheimnisschutz besteht.
  • Dienstleistungen, die unmittelbar einem einzelnen Mandat dienen, brauchen die Einwilligung des Mandanten.

Für einen US-Chatdienst mit Standard-Nutzungsbedingungen sind diese Anforderungen schwer zu erfüllen. Bei einer abgeschotteten KI auf einem deutschen Server mit einem Dienstleister, der sich vertraglich zur Verschwiegenheit verpflichtet, lassen sie sich deutlich klarer dokumentieren. Hinweis: Das ist keine Rechtsberatung. Stimmen Sie die konkrete Ausgestaltung mit Ihrer Kammer, Ihrem Datenschutzbeauftragten oder einem Fachanwalt ab.

SaaS, EU-Plattform oder private KI: Wie entscheiden Sie?

Gehen Sie die Fragen der Reihe nach durch – die erste klare Antwort bestimmt meist die Richtung:

  1. Verarbeiten Sie Berufsgeheimnisse, Gesundheits- oder Personaldaten oder kritische Geschäftsgeheimnisse? → Ja: private KI auf eigenem oder deutschem/EU-Server, ggf. vor Ort.
  2. Arbeitet Ihr Team fast vollständig in Microsoft 365 oder Google Workspace und brauchen Sie KI direkt in Word, Outlook oder Gmail? → Ja: Copilot bzw. Gemini im bestehenden Tenant – mit sauberen Berechtigungen.
  3. Wollen Sie die jeweils stärksten Frontier-Modelle (GPT, Claude, Gemini) unter einer EU-Oberfläche nutzen, ohne eigenen Server? → Ja: EU-Plattform wie Langdock.
  4. Planen Sie mit deutlich mehr als 25 regelmäßigen Nutzern und sollen Kosten nicht pro Sitz wachsen? → Ja: private KI wird preislich konkurrenzfähig (siehe Kostentabelle).
  5. Keine eigene IT für GPU-Betrieb? → Betreute private KI statt Selbstbetrieb.
  6. Gemischte Anforderungen? → Hybrid: sensible Bereiche privat, allgemeine Recherche über SaaS – mit klarer, dokumentierter Regel, welche Daten wohin dürfen.

Beginnen Sie in jedem Fall mit einem abgegrenzten Anwendungsfall – etwa Angebotsvorbereitung oder Antworten auf wiederkehrende Kundenfragen – und messen Sie Qualität und Zeitersparnis, bevor Sie ausrollen. Wenn Sie dafür strukturierte Unterstützung möchten, hilft unser KI-Consulting bei Use-Case-Auswahl und Business Case.

Fazit

Eine eigene Unternehmens-KI ist 2026 kein Forschungsprojekt mehr. Offene Modelle wie gpt-oss, Mistral, Gemma und Qwen laufen auf einer einzelnen modernen GPU und bewältigen Dokumentensuche, Entwürfe und Zusammenfassungen gut. Der Engpass liegt woanders: bei Rechten, Protokollen, Betrieb und sauberer Wissensaufbereitung. Für kleine Teams mit unkritischen Daten sind Lizenzen pro Nutzer meist günstiger. Bei sensiblen Daten, Berufsgeheimnissen oder wachsender Nutzerzahl spricht vieles für eine private Umgebung.

Contentoren richtet mit der Unternehmens-KI genau so eine Umgebung ein und betreibt sie: lokales Modell auf dediziertem GPU-Server in Deutschland bzw. der EU, KI-Agenten pro Bereich, dokumentierte Datenflüsse und AVV. Bringen Sie eine wiederkehrende Aufgabe in ein unverbindliches Erstgespräch mit – wir klären gemeinsam, ob private KI dafür passt.

Quellen

Stand: 6. November 2026. Preise sind Listenpreise ohne Umsatzsteuer und können sich ändern; verbindlich ist das jeweilige Angebot.

Häufige Fragen

Was ist eine eigene Unternehmens-KI?

Eine eigene Unternehmens-KI ist ein Sprachmodell, das auf Infrastruktur läuft, die nur Ihrem Unternehmen zugeordnet ist – auf einem eigenen Server vor Ort oder einem dedizierten GPU-Server in einem deutschen bzw. EU-Rechenzentrum. Sie ist mit freigegebenen Firmendokumenten verbunden, hat Rollen und Rechte und protokolliert Zugriffe. Im Unterschied zu ChatGPT oder Copilot läuft das Modell standardmäßig auf dieser Infrastruktur; eine externe Modell-API wird nur angebunden, wenn Sie sie freigeben.

Was kostet ein lokales LLM für ein Unternehmen?

Ein gemieteter GPU-Server mit 96 GB Grafikspeicher kostet bei Hetzner 1.499 € im Monat plus 1.499 € Einrichtung (netto, Stand November 2026), also rund 55.000 € über drei Jahre – ohne Software, Betrieb und Sicherheit. Betreute Angebote wie die Contentoren Unternehmens-KI beginnen bei 3.490 € Einrichtung plus 690 € monatlich netto, zuzüglich verbrauchsabhängiger Token- bzw. API-Kosten. Ab wann sich das gegenüber Lizenzen pro Nutzer rechnet, hängt vor allem von der Nutzerzahl ab.

Ist ein lokales LLM automatisch DSGVO-konform?

Nein. Der Betrieb auf eigener oder EU-Infrastruktur beseitigt Drittlandübermittlungen an den Modellanbieter, ersetzt aber weder Rechtsgrundlage, Zweckbindung, Löschkonzept noch eine Datenschutz-Folgenabschätzung, die laut Datenschutzkonferenz beim KI-Einsatz vielfach nötig ist. Betreibt ein Dienstleister den Server, brauchen Sie zusätzlich einen Auftragsverarbeitungsvertrag.

Welches Open-Source-Modell eignet sich 2026 für Unternehmen?

Für deutschsprachige Büroaufgaben und Dokumentensuche kommen vor allem Modelle mit Apache-2.0-Lizenz in Frage, etwa gpt-oss von OpenAI, Mistral Small und Ministral, Gemma 4 von Google oder Qwen3.8. Prüfen Sie die Lizenz: Bei Llama 4 schließt Metas Nutzungsrichtlinie Unternehmen mit Hauptsitz in der EU von den Rechten an den multimodalen Modellen aus, und Mistral Medium 3.5 ist für Unternehmen mit mehr als 20 Mio. US-Dollar Monatsumsatz nicht frei lizenziert.

Dürfen Kanzleien und Steuerberater ChatGPT mit Mandantendaten nutzen?

Nur unter engen Voraussetzungen. Berufsgeheimnisträger dürfen Dienstleistern nach § 203 Abs. 3 StGB, § 43e BRAO bzw. § 62a StBerG Mandatsgeheimnisse nur zugänglich machen, soweit es erforderlich ist, mit textförmlicher Verschwiegenheitsverpflichtung und bei Diensten im Ausland nur bei vergleichbarem Schutzniveau. Viele Kanzleien wählen deshalb eine abgeschottete eigene KI. Das ist keine Rechtsberatung; klären Sie den Einzelfall mit Kammer oder Fachanwalt.