Unternehmen, die heute über eine „KI-Implementierung“ sprechen, beginnen das Gespräch zu 90% mit einem Satz: „Wir würden gern etwas auf Basis von ChatGPT machen“. Das ist verständlich, denn es ist die bekannteste Marke am Markt und das erste Modell, mit dem Mitarbeiter privat in Berührung gekommen sind. Das Problem: KI-Automatisierung im Unternehmen ist nicht dasselbe wie Prompts im Web-ChatGPT zu schreiben.
In diesem Artikel zeigen wir, wann ChatGPT die richtige Wahl ist, wann es eine Implementierung blockiert und welche 6 Alternativen in B2B-Szenarien in Frage kommen: von Claude und Gemini über Microsoft Copilot und Perplexity bis hin zu Open-Source-Modellen, die sich lokal betreiben lassen und volle Kontrolle über die Daten erlauben. Wenn Sie einen breiteren Implementierungskontext suchen, haben wir auch einen separaten Artikel darüber, warum KI-Implementierungen in Unternehmen scheitern und wie Sie das verhindern.
Wann ChatGPT eine gute Wahl für die Automatisierung ist
Zunächst einmal: OpenAI hat ein wirklich starkes Produkt. ChatGPT mit den Modellen GPT-4o und GPT-4.1 ist eines der vielseitigsten LLMs auf dem Markt, und das Ökosystem drumherum (Assistants API, GPTs, Custom Actions, Realtime API) ist sehr ausgereift.
ChatGPT bewährt sich im Unternehmen, wenn:
- Mitarbeiter einen Allzweck-Assistenten brauchen: Zusammenfassungen, Übersetzungen, Textredaktion, Brainstorming.
- Sie einfache Büroaufgaben automatisieren: Klassifizierung von Nachrichten, Extraktion von Daten aus E-Mails, Generierung von Marketinginhalten.
- Ihr Team bereits ChatGPT Plus oder Team nutzt und Sie die Integration mit OpenAI-Tools nutzen möchten.
- Sie einen Prototyp einer Anwendung mit KI-Assistent bauen und einen schnellen Start mit fertigen SDKs wollen. Wie bei jedem MVP-Projekt zählt dann Tempo, nicht Optimierung, worüber wir im Artikel geschrieben haben Was ist ein MVP und wie baut man es in 8 Wochen.
Vier Grenzen von ChatGPT in der B2B-Automatisierung
Das Problem beginnt, wenn Sie ChatGPT für ernsthafte Unternehmensprozesse einsetzen wollen. Wir sehen das täglich in Gesprächen mit Kunden, die wir unterstützen im Rahmen von KI-Implementierungen.
1. DSGVO und sensible Daten
OpenAI verarbeitet Daten auf Servern in den USA. Selbst mit einem DPA (Data Processing Agreement) in der Enterprise-Version ist es ein Risiko, PESEL-Nummern, medizinische Daten, vollständige Verträge oder Kundendatenbanken in einen Prompt zu geben, das viele Datenschutzbeauftragte nicht akzeptieren. Unternehmen aus dem Medizin-, Rechts-, Finanz- und öffentlichen Sektor lehnen ChatGPT oft genau in dieser Phase ab. Mehr über KI-Fallstricke in regulierten Branchen haben wir zusammengestellt in KI für Juristen: 5 Fallstricke, die man am Anfang nicht sieht.
2. Begrenzter Kontext bei langen Dokumenten
GPT-4o hat 128.000 Tokens Kontext, GPT-4.1 bis zu 1 Million, in der Praxis sinkt die Antwortqualität jedoch, wenn sich der Prompt dem Limit nähert. Die Analyse einer 300-seitigen technischen Dokumentation, des vollständigen Codes eines Repositorys oder einer Datenbank mit 500 Dokumenten in einem Durchlauf sind Aufgaben, bei denen ChatGPT anfängt, Fehler zu machen und Teile auszulassen. Das ist meist der Moment, in dem ein Unternehmen nach einer RAG-Architektur sucht. Wir erklären sie Schritt für Schritt im Artikel Was ist RAG und warum KI ohne RAG Dinge erfindet.
3. Koszty przy skali
Der API-Preis von GPT-4o liegt bei etwa 2,50 USD pro Million Eingabe-Tokens und 10 USD pro Million Ausgabe-Tokens. Das klingt wenig, aber wenn Sie einen Prozess automatisieren, bei dem jede Aufgabe 20.000 Tokens Kontext verbraucht, und das 5.000 Mal am Tag ausführen, kann die Monatsrechnung 10.000 PLN übersteigen. Der Rechner unten zeigt das mit Ihren Zahlen.
Kostenrechner für KI-APIs
Stellen Sie die Anzahl der Anfragen pro Tag und die Prompt-Länge ein und sehen Sie die monatlichen Kosten jedes Modells in PLN. Öffentliche Preise von September 2026.
Beachten Sie, wie dramatisch sich die Rechnung beim Wechsel von GPT-4o zu Gemini 2.5 Flash oder DeepSeek ändert. Für viele Prozesse liefern günstigere Modelle ein identisches Geschäftsergebnis. Es ist derselbe Mechanismus, über den wir im Artikel geschrieben haben Was kostet eine Webanwendung 2026, nur übertragen auf die Ebene der Sprachmodelle.
4. Geschlossenes Ökosystem
Assistants API, GPTs, Realtime, Vector Stores: All das funktioniert nur in der OpenAI-Cloud. Wenn Sie in einem Jahr entscheiden, das Modell zu wechseln, Daten On-Premise zu verlagern oder einen zweiten Anbieter für Redundanz hinzuzufügen, lassen sich viele Komponenten nicht einfach übertragen. Auf Custom GPTs aufgebaute Automatisierungen funktionieren außerhalb von ChatGPT nicht.
Alternative 1: Claude (Anthropic), wenn langer Kontext und Verständnis zählen
Claude 4.7 von Anthropic ist ein Modell, das sich bei Aufgaben mit der Analyse großer Dokumente, Code und langen Gesprächen einen Namen gemacht hat. Es hat nominell 200.000 Tokens Kontext (Enterprise-Versionen sogar bis zu 1 Million) und, was wichtiger ist, bleibt über die gesamte Länge konsistent.
- Wann wählen: Analyse von Rechtsverträgen, Ausschreibungen, technischer Dokumentation, lange Kundengespräche, Reklamationsbearbeitung mit Historie.
- Mocne strony: marktführend bei Reasoning und Codegenerierung, vorsichtiger bei Halluzinationen, sehr gute Qualität im Polnischen.
- Preis: ähnlich wie GPT-4o (3 bis 15 USD pro Million Tokens je nach Modell), mit der Option Prompt Caching, die die Kosten bei wiederkehrenden Anfragen um 50-80% senken kann.
- RODO: Anthropic bietet Zugang zum Modell über AWS Bedrock in der Region eu-central-1 (Frankfurt), was für viele Unternehmen aus Compliance-Sicht akzeptabel ist.
- Nachteile: weniger ausgereifte SDKs als OpenAI, kein eigenes Assistenten-Ökosystem im Stil von Custom GPTs.
Alternative 2: Gemini (Google), wenn das Unternehmen mit Workspace arbeitet
Gemini 2.5 Pro ist Googles Antwort auf GPT-4 und Claude. Für Unternehmen, die bereits Google Workspace nutzen (Gmail, Docs, Sheets, Drive), ist die Integration nativ, und Gemini erscheint direkt in der Oberfläche dieser Anwendungen.
- Wann wählen: Unternehmen mit Google Workspace, Bedarf an der Analyse großer Datenmengen (Gemini hat 2 Millionen Tokens Kontext), multimodale Aufgaben (Bild, Video, Audio).
- Mocne strony: riesiger Kontext, nativ multimodal, funktioniert hervorragend mit YouTube und Google Search, günstiger Preis in Vertex AI.
- Preis: Gemini 2.5 Flash kostet etwa 0,30 USD pro Million Tokens, eines der günstigsten Premium-Modelle auf dem Markt.
- RODO: Google Cloud bietet die Regionen europe-west1 (Belgien) und europe-west4 (Niederlande). Daten in Workspace Enterprise werden nicht für das Training verwendet.
- Nachteile: Qualität im Polnischen noch etwas hinter Claude und GPT-4o, weniger stabile Ergebnisse beim Reasoning, jüngeres Entwickler-Ökosystem als bei OpenAI.
Alternative 3: Microsoft Copilot, wenn die Organisation M365 nutzt
Microsoft Copilot ist kein eigenes Modell, sondern eine Anwendungsschicht über GPT-4 (und teilweise Microsoft-Modellen), integriert in Word, Excel, Outlook, Teams und Power Platform. Für große Organisationen mit M365 Enterprise ist das oft der Weg des geringsten Widerstands.
- Wann wählen: Unternehmen mit Microsoft 365 Enterprise und Automatisierungsbedarf in Outlook (E-Mail), Excel (Analyse), Teams (Meetings) und Power Automate (Workflows).
- Mocne strony: native Integration in die Office-Suite, Konformität mit Azure-AD-Richtlinien, Daten verlassen den Microsoft-Tenant nicht.
- Preis: 30 USD pro Nutzer und Monat (Copilot for M365) plus Kosten für M365 E3/E5. Für ein Unternehmen mit 100 Mitarbeitern ergibt das etwa 3.000 USD monatlich allein für Copilot.
- RODO: einer der besten, Daten werden in der EU Data Boundary gespeichert, kein Training mit Kundendaten.
- Nachteile: Copilot funktioniert in der Praxis gut für einfache Aufgaben in Office-Anwendungen, für individuelle Automatisierungen brauchen Sie aber ohnehin den Azure OpenAI Service, ein separates Produkt. Ähnliche Dilemmata sehen wir bei ERP- und CRM-Integrationen mit KI, wo native Plugins des Anbieters schnell an ihre Grenzen stoßen.
Alternative 4: Perplexity, wenn die KI suchen und nicht erfinden soll
Perplexity ist kein klassisches LLM, sondern eine KI-Suchmaschine, die Modellantworten mit aktuellen Quellen verbindet und Zitate angibt. Für Unternehmen, die mit externem Wissen arbeiten (Research, Markt- und Wettbewerbsbeobachtung, Trendanalyse), ist es oft das sinnvollste Werkzeug. Derselbe Zitiermechanismus ist entscheidend bei der Vertriebsautomatisierung, worüber wir im Artikel geschrieben haben Automatisierung im B2B-Vertrieb: 7 Prozesse, die ab der ersten Woche Wirkung zeigen.
- Wann wählen: Research-, PR-, Marketing- und B2B-Vertriebsteams, die aktuelle Informationen aus dem Internet mit Quellenangaben benötigen.
- Mocne strony: immer aktuelle Daten (nicht auf das Trainingsdatum eingefroren), Quellen werden direkt angegeben, sehr gut bei der gleichzeitigen Analyse vieler Quellen.
- Preis: 20 USD pro Nutzer und Monat (Pro), API günstiger als OpenAI für ähnliche Aufgaben.
- RODO: Perplexity Enterprise bietet Datenschutz auf SOC-2-Niveau, hat aber noch keine vollständige EU-Region. Für stark regulierte Branchen ist das eine Hürde.
- Nachteile: ersetzt ChatGPT nicht bei kreativen und konversationellen Aufgaben, schwächere SDKs für individuelle Automatisierung.
Alternative 5: Llama und Mistral, wenn die Daten bei Ihnen bleiben müssen
Open-Source-Modelle haben einen enormen Weg zurückgelegt. Llama 3.3 (Meta) und Mistral Large 2 (Mistral AI aus Paris) erreichen heute in vielen Benchmarks das Niveau von GPT-4o und lassen sich auf einem eigenen Server oder auf einer GPU-Maschine in einer polnischen Cloud betreiben (z. B. OVH, Beyond.pl, Netia). Für Unternehmen, deren Daten die Infrastruktur nicht verlassen dürfen, ist das der einzig sinnvolle Weg.
- Wann wählen: öffentlicher Sektor, Medizin, Recht, Verteidigung, Finanzen, überall dort, wo DSGVO-Anforderungen und Berufsgeheimnis eine externe Cloud ausschließen.
- Mocne strony: volle Kontrolle über die Daten, kein Vendor Lock-in, Fine-Tuning auf eigenen Daten möglich, langfristig günstig bei großem Maßstab.
- Preis: keine Modelllizenzkosten, aber Kosten für GPU-Infrastruktur (ein Server mit 2x A100 kostet in einer polnischen Cloud etwa 8.000-12.000 PLN monatlich). Das lohnt sich ab einem gewissen Anfragevolumen.
- RODO: maximal möglich, da die Daten Ihren Serverraum physisch nicht verlassen.
- Nachteile: höhere Komplexität der Implementierung, DevOps/MLOps-Team erforderlich, Antwortqualität meist 5-10% niedriger als bei GPT-4o.
Alternative 6: DeepSeek, wenn die Kosten Priorität haben
DeepSeek ist ein chinesisches Modell, das 2025 den Markt mit einer GPT-4o-vergleichbaren Qualität zu einem um ein Vielfaches niedrigeren Preis überrascht hat. Das Open-Source-Modell (DeepSeek-V3, DeepSeek-R1) plus ein günstiger API-Dienst machen es für viele Automatisierungen zur wirtschaftlichsten Option.
- Wann wählen: massenhafte Automatisierung mit geringem Risiko (Klassifizierung, Zusammenfassungen, Übersetzungen), bei der vor allem das Preis-Leistungs-Verhältnis zählt.
- Mocne strony: außergewöhnlich günstig (unter 0,30 USD pro Million Tokens), Open Source, lässt sich wie Llama lokal betreiben.
- Preis: etwa 30-50 Mal günstiger als GPT-4o für eine vergleichbare Aufgabe.
- RODO: Wenn Sie die DeepSeek-API nutzen, landen die Daten auf Servern in China. Für die meisten polnischen Unternehmen disqualifiziert das die API-Version. Eine lokale Implementierung des Open-Source-Modells hat dieses Problem nicht.
- Nachteile: schwächeres Polnisch als westliche Top-Modelle, geringeres Enterprise-Vertrauen, geopolitisches Risiko im SaaS-Vertrag.
Vergleich: welches Modell für welche Automatisierung
| Modell | Kontext | Cena API | RODO / EU | Najlepszy do |
|---|---|---|---|---|
| ChatGPT (GPT-4o) | 128k, 1M w 4.1 | $2,50 / $10 za 1M | mittel | allgemeiner Assistent, Prototyping |
| Claude 4.7 | 200k, 1M enterprise | $3 / $15 za 1M | dobre (AWS Frankfurt) | lange Dokumente, Code, juristische Analyse |
| Gemini 2.5 Pro | 2M Tokens | $1,25 / $5 za 1M | dobre (GCP EU) | Unternehmen mit Google Workspace, multimodal |
| Copilot M365 | abhängig von der Anwendung | $30 / user / mc | bardzo dobre (EU Data Boundary) | Automatisierung in der Office-Suite |
| Perplexity Pro | abhängig vom Modell | $20 / user / mc | mittel | Recherche, aktuelle Daten mit Quellenangaben |
| Llama / Mistral (on-prem) | 128k | nur Infrastruktur (GPU) | maksymalne (u Ciebie) | regulierter Sektor, sensible Daten |
| DeepSeek | 128k | ~$0,30 za 1M | schwach (CN) oder On-Prem | masowe zadania, niski koszt |
Vergleichsradar: 6 Dimensionen, 4 Premium-Modelle
Die Tabelle zeigt die reinen Parameter, in der Praxis ist die Entscheidung aber immer ein Kompromiss. Das Radar unten zeigt, wie dieser Kompromiss bei den vier bekanntesten Premium-Modellen aussieht. Skala 1-10, je höher, desto besser.
Modellvergleich: 6 Dimensionen
Welches Modell wählen? Klicken Sie und prüfen Sie es mit 4 Fragen
Wenn die obigen Vergleiche keine klare Antwort geliefert haben, beantworten Sie 4 Fragen. Die Empfehlung basiert auf denselben Kriterien, die wir in Gesprächen mit Kunden zu Beginn anwenden KI-Implementierung.
Wie Sie ein KI-Modell für die Automatisierung im Unternehmen auswählen
In der Praxis läuft die Entscheidung selten auf ein einziges Modell hinaus. In vielen Implementierungen für unsere Kunden setzen wir 2-3 Modelle parallel ein: ein günstigeres für Klassifizierung und Vorverarbeitung, ein stärkeres für das eigentliche Reasoning und ein lokales für sensible Daten. Das Modell ist ein Detail, wichtig ist der Prozess, den Sie automatisieren möchten. Diesen Ansatz haben wir in einer separaten Ausarbeitung zusammengefasst Reifegrade der Automatisierung der Angebotserstellung, in der wir zeigen, wie man KI schrittweise in einen Prozess einbindet.
Bevor Sie einen Anbieter wählen, gehen Sie diese Liste durch:
- Welche Daten fließen in das Modell? Wenn es um PESEL-Nummern, Untersuchungsergebnisse, Rechtsdokumente oder Finanzdaten geht, schließen Sie öffentliche APIs aus und sprechen über Azure OpenAI, AWS Bedrock oder ein On-Premise-Modell.
- Wie hoch ist das Volumen? 100 Anfragen pro Tag sind etwas anderes als 100.000. Bei großem Maßstab kann der Preisunterschied zwischen den Modellen über die Rentabilität der gesamten Automatisierung entscheiden (siehe Rechner oben).
- Wie lang ist der Kontext? Kurze Prompts (Chat, Klassifizierung) bewältigt jedes Modell. Die Analyse 100-seitiger Dokumente ist bereits ein Fall für Claude, Gemini oder eine dedizierte Architektur RAG.
- Benötigen Sie aktuelle Daten? Falls ja, kommen Perplexity oder ein Modell mit Web-Search-API in Frage (OpenAI Responses API, Claude mit Tool Use).
- Wie sieht die Infrastruktur des Unternehmens aus? Google Workspace drängt zu Gemini, Microsoft 365 zu Copilot, kein Lock-in spricht für einen unabhängigen Anbieter per API oder eine eigene Instanz.
- Kto to utrzyma? ChatGPT Team läuft von selbst. Eine Llama-Implementierung On-Premise erfordert dauerhaft ein DevOps/MLOps-Team. Das sind reale Kosten, die in keiner Preisliste des Modells stehen. Mehr über die Fallstricke bei der Wahl des Dienstleisters im Artikel Wie Sie einen Dienstleister für die KI-Implementierung auswählen.
KI-Automatisierung ist keine Modellwahl, sondern eine Architekturwahl
Der größte Fehler, den wir bei Unternehmen sehen, die mit KI starten, ist der Ansatz „wählen wir ein Modell und schauen, was es schafft“. In der Praxis ist eine KI-Implementierung ein Projekt, in dem das Modell nur eine von fünf Entscheidungen ist. Neben dem Modell müssen Sie Folgendes konzipieren:
- Datenquellen, auf die das Modell zugreift (ERP, CRM, Dokumente, Produktwissen, E-Mail). Diese Schicht ist meist die schwierigste, am besten haben wir sie beschrieben im Abschnitt über ERP- und CRM-Integrationen.
- Die RAG-Schicht, also die Art, wie Daten indexiert und dem Modell im Kontext übergeben werden.
- Die Orchestrierungsschicht, also die Geschäftslogik, die Prompts, Daten und Aktionen zu einem konkreten Workflow verbindet (n8n, Make, Custom Code, Zapier, LangChain). Siehe auch unsere Seite Prozessautomatisierung.
- Die Integrationsschicht, also die Art, wie KI in bestehende Tools eingebunden wird (Slack, Teams, Salesforce, HubSpot, Excel, eigene Anwendungen).
- Die Sicherheitsschicht, also wer Zugriff auf welche Daten hat, wie Anfragen protokolliert und wie Antworten gespeichert werden.
ChatGPT oder Claude allein automatisieren ohne diese Schichten nichts. Sie sind nur ein Motor, der Text versteht.
Wir wollen Ihnen keine weitere Tool-Liste geben
Wir kommen in Ihr Unternehmen, führen ein Prozessaudit durch, wählen das Modell (oder die Modelle) aus, entwerfen die RAG- und Orchestrierungsschichten und implementieren innerhalb von 2-3 Wochen nach dem ersten Gespräch.
So sieht eine KI-Implementierung mit JSON Crew ausHäufig gestellte Fragen
Ist ChatGPT sicher für Unternehmensdaten?
ChatGPT in den Versionen Team und Enterprise bietet die Option, das Training auf Ihren Daten zu deaktivieren, sowie ein unterzeichnetes DPA, ist also formal DSGVO-konform. Das Risiko besteht darin, dass die Daten physisch auf OpenAI-Server in den USA gelangen und deren Infrastruktur durchlaufen. Für die meisten nicht regulierten Unternehmen ist das akzeptabel, für den Medizin-, Rechts-, Finanz- und öffentlichen Sektor meist nicht. Mehr über Fallstricke in regulierten Branchen: KI für Juristen.
Lohnt sich ChatGPT Enterprise oder reicht Plus?
ChatGPT Plus (20 USD/Monat/Nutzer) ist ein Tarif für einzelne Mitarbeiter. Es gibt keine zentrale Kontoverwaltung, kein DPA und keine Garantie, dass die Daten nicht für das Training verwendet werden. Für ein Unternehmen mit mehr als 10 Mitarbeitern, das mehr als gelegentliche Content-Generierung möchte, lohnt sich Team (25 USD/Monat) oder Enterprise (individuelles Angebot ab etwa 60 USD/Monat/Nutzer).
Welches KI-Modell ist am besten für die polnische Sprache?
In Qualitätstests für Polnisch führen Claude 4.7 und GPT-4o praktisch gleichauf. Gemini 2.5 Pro liegt einige Prozent dahinter, ist aber weiterhin sehr gut. Open-Source-Modelle (Llama 3.3, Mistral Large) verlieren im Polnischen mehr Nuancen, eignen sich aber für einfachere Automatisierungen.
Was kostet die Implementierung einer KI-Automatisierung im Unternehmen?
Das hängt vom Umfang ab. Eine einfache Implementierung eines einzelnen Prozesses (zum Beispiel automatische Klassifizierung und Beantwortung von E-Mails) kostet typischerweise 15.000-30.000 PLN für das Projekt plus 500-2000 PLN monatlich für den Betrieb. Eine umfassende Implementierung von 3-5 Prozessen mit RAG-Schicht und Integrationen in CRM/ERP liegt meist bei 60.000-150.000 PLN. Ein On-Premise-Modell verursacht zusätzlich Kosten für GPU-Infrastruktur. Die Beträge im Rechner oben zeigen nur die Kosten der API selbst, ohne die Arbeit des Teams.
Brauche ich KI-Spezialisten, um ChatGPT oder Claude im Unternehmen zu implementieren?
Für die einfache Nutzung im Web: nein. Für die Konzeption einer echten Prozessautomatisierung: ja. Eine KI-Implementierung ist nicht nur die Wahl des Modells, sondern auch das Design von Prompts, Datenquellen, RAG-Schicht, Integrationen in bestehende Tools und das Monitoring der Antwortqualität. Das dauert 2-3 Wochen für ein Team mit entsprechender Erfahrung. Tipps zur Auswahl eines Dienstleisters haben wir zusammengestellt im Artikel Wie Sie einen KI-Implementierungspartner auswählen.
Kann man verschiedene KI-Modelle in einem Unternehmen kombinieren?
Ja, und in der Praxis ist das Standard bei reiferen Implementierungen. Ein typisches Setup in der B2B-Vertriebsautomatisierung: Gemini Flash zur Lead-Klassifizierung (weil günstig), Claude zur Generierung personalisierter Angebote (wegen langem Kontext und gutem Polnisch), Perplexity zur Anreicherung von Kundendaten (wegen aktueller Informationen). Die Orchestrierung erfolgt meist mit n8n oder einem Custom Backend. Weitere praxisnahe Szenarien in Automatisierung im B2B-Vertrieb.
Weitere Materialien zu KI im Unternehmen
- KI-Implementierungen in Unternehmen: warum sie scheitern und wie Sie das verhindern
- Was ist RAG und warum KI ohne RAG Dinge erfindet
- Automatisierung im B2B-Vertrieb: 7 Prozesse
- KI für Juristen: 5 Fallstricke
- Wie Sie einen Dienstleister für die KI-Implementierung auswählen
- Reifegrade der Automatisierung der Angebotserstellung
