Sie haben ChatGPT eine Frage zu Ihrem eigenen Produkt gestellt. Er antwortete in einem selbstbewussten Ton und hat sich alles völlig ausgedacht. Weil er Ihre Preisliste, Ihre Abläufe oder Ihre Dokumentation nicht kennt. Es ist nicht die Schuld der KI, sondern die Art und Weise, wie Sie es verkabelt haben. RAG löst genau dieses Problem. Was ist RAG und wann braucht Ihr Unternehmen es wirklich? Einer nach dem anderen.
Kurz gesagt
RAG (Retrieval-Augmented Generation) ist eine Möglichkeit, ein KI-Modelll mit der Wissensdatenbank Ihres Unternehmens zu verbinden. Das Modelll sucht zunächst in Ihren Dokumenten nach der Antwort und antwortet erst dann mit einem Link zur Quelle. Dadurch kennt er Ihre Preisliste und Ihre Verfahren, und wenn es keine Datengrundlage gibt, sagt er, er wisse es nicht, anstatt etwas zu erfinden. Daher der Hauptunterschied zum regulären ChatGPT: RAG antwortet auf der Grundlage Ihres Wissens, nicht auf der Grundlage von Allgemeinwissen aus dem Internet.
Was ist RAG?
RAG ist eine Abkürzung für Retrieval-Augmented Generation, d. h. durch Suche unterstützte Generierung von Antworten. Dabei handelt es sich um eine Technik, die 2020 von Forschern in... beschrieben wurde. wissenschaftliche Arbeit von Lewis und Kollegen. Es klingt akademisch, aber die Idee ist einfach.
RAG vereint zwei Dinge: eine Suchmaschine für Ihre Dokumente und ein SprachModellll, das daraus eine Antwort erstellt. Anstatt das Modelll zu fragen: „Was wissen Sie darüber aus dem Internet?”, fragen Sie: „Was wissen Sie aus diesen Dokumenten von mir?” Das Modelll empfängt die Frage zusammen mit Fragmenten Ihrer Wissensdatenbank und basiert die Antwort darauf.
Stellen Sie sich einen neuen Verkäufer vor, der einen Schlüssel zu einem Ordner mit allen Informationen über das Unternehmen erhält: Preislisten, Spezifikationen, bisherige Vereinbarungen mit Kunden, Anweisungen. Wenn Sie ihn etwas fragen, findet er die richtige Seite und liest daraus, anstatt zu raten. RAG ist dieser Verkäufer, nur dass er innerhalb einer Sekunde reagiert und nie in den Urlaub fährt.
Definition: RAG ist eine Architektur, bei der das KI-Modelll vor der Bereitstellung einer Antwort nach passenden Fragmenten in der angegebenen Wissensdatenbank sucht und ausschließlich auf deren Grundlage eine Antwort generiert und dabei die Quelle angibt.
Wie funktioniert RAG? Drei Schritte
RAG unterteilt die Reaktion in drei Schritte:
1. Indizierung: Ihre Dokumente (PDF, Datenbank, E-Mails, Seiten) werden in Fragmente unterteilt und so gespeichert, dass Sie sie schnell nach Bedeutung und nicht nur nach Schlüsselwörtern durchsuchen können. Dies geschieht einmal und wird dann bei Änderungen aktualisiert.
2. Suchen: Wenn jemand eine Frage stellt, sucht das System nach den Teilen Ihrer Dokumente, die dieser Frage am ehesten entsprechen. Nicht den gesamten Ordner, sondern nur die zwei oder drei Seiten, die sich mit dem Thema befassen.
3. Generation mit Zitat: Das Modelll erhält die Frage Plus die gefundenen Fragmente und verfasst daraus eine prägnante Antwort. Er enthält auch einen Link zu dem von ihm verwendeten Dokument, damit Sie es überprüfen können.
Drei Schritte. Wirkung: eine auf Ihrem Wissen basierende Antwort mit der Möglichkeit zu überprüfen, woher sie kommt.
Wie unterscheidet sich RAG vom regulären ChatGPT?
Diese Frage wird am häufigsten gestellt, weil viele Menschen bereits fertige Werkzeuge ausprobiert und sich verbrannt haben. Der Unterschied besteht an drei Stellen.
Kennt Ihre Daten. Das fertige Modelll wurde anhand allgemeiner Daten aus dem Internet trainiert. Er kennt weder Ihre Preisliste für dieses Quartal noch die Vereinbarungen mit einem bestimmten Kunden. RAG verbindet es mit Ihrer Wissensdatenbank, sodass es auf das reagiert, was Ihnen zur Verfügung steht.
Zeigt die Quelle an. Im regulären Chat erhalten Sie die Antwort, ohne anzugeben, woher sie kommt. RAG fügt einen Link zum Dokument hinzu. Ein Verkäufer oder Kunde kann klicken und prüfen, anstatt sich auf sein Wort zu verlassen.
Er sagt: „Ich weiß es nicht”. Das klingt trivial, ist aber entscheidend. Wenn das Modelll keine Grundlage in Ihren Daten hat, antwortet ein gut aufgebauter RAG, dass keine Informationen vorliegen, anstatt in selbstbewusstem Ton eine Unwahrheit zu sagen. Selbstbewusste Unwahrheit kostet in einem Unternehmen mehr als ein ehrliches „Ich weiß nicht”.
Warum braucht die RAG das? Vier Anzeichen dafür, dass es Sinn macht
RAG ist nicht für jeden und nicht für alles geeignet. Wenn Sie jedoch mindestens zwei dieser Symptome erkennen, ist ein Gespräch sinnvoll.
- Wissen liegt in den Köpfen der Menschen und in Hunderten von Dateien. Der Verkäufer ruft den Techniker an, weil er nicht weiß, ob das Produkt zur Maschine passt. Das Onboarding einer neuen Person dauert Monate, da das Wissen nicht an einem Ort ist.
- Jemand sortiert E-Mails und Berichte manuell. Die Kontaktbox ist eine Tasche: Anfragen, Beschwerden, Rechnungen. Eine KI-basierte Klassifizierung kann dies markieren und weiterleiten.
- Dokumente werden von Hand gelesen und transkribiert. Rechnungen, Bestellungen, Spezifikationen. KI liest das Dokument und extrahiert Daten, und der Mensch bestätigt nur unsichere Fälle.
- Sie haben es mit dem vorgefertigten Chat versucht, aber er hat es sich ausgedacht. Weil er Ihr Unternehmen nicht kannte. RAG verbindet das Modelll mit Ihrem Wissen und dieses Problem verschwindet.
Wenn Ihr Hauptziel darin besteht, sich wiederholende Aufgaben zu Automatisieren, anstatt nur auf der Grundlage von Wissen zu antworten, beginnen Sie mit ProzessAutomatisierung, und fügen Sie KI hinzu, wo es wirklich hilft.
Erfindet die RAG das?
Ehrliche Antwort: Halluzinationen jeglicher TechnoProtokollee können nicht auf Null reduziert werden. Aber sie können erheblich eingeschränkt und gefangen werden, und das ist der ganze Unterschied zwischen einem Spielzeug und einem Firmenwerkzeug.
In einer gut aufgebauten RAG basieren die Antworten auf gefundenen Fragmenten, das Modelll wird gezwungen, das Dokument zu zitieren, und die Qualität wird an Ihren tatsächlichen Fragen gemessen. Sie legen auch einen Schwellenwert fest, unterhalb dessen das Modelll sagt, dass es es nicht weiß, anstatt zu raten. Sie beurteilen die Qualität anhand eines Prototyps anhand einer Stichprobe Ihrer Dokumente, bevor Sie sich für die vollständige Implementierung entscheiden.
RAG und DSGVO: Wo sind meine Daten?
Diese Frage bestimmt die gesamte Architektur und wird daher am Anfang und nicht am Ende gestellt.
Wenn es sich um sensible Daten handelt (persönliche Daten, Finanzen, interne Dokumente), kann das Modelll auf Ihrem Server abgelegt werden und die Daten gehen dann nicht über Ihre Infrastruktur hinaus. Wenn keine derartigen Einschränkungen bestehen, werden Cloud-Modellle verwendet, was günstiger und schneller ist. Eine gut durchdachte Architektur ermöglicht Ihnen auch den Wechsel zu einem anderen Modelll, wenn sich Preise oder Lieferantenrichtlinien ändern, sodass Sie nicht von einem Lieferanten abhängig sind.
Wo soll ich mit RAG anfangen?
Aus einer konkreten Frage: Was soll KI tun und auf welchen Daten? Nicht „Lasst uns KI implementieren”, sondern „Ich möchte, dass ein neuer Verkäufer in Sekundenschnelle Antworten aus unserer technischen Dokumentation erhält”. Je enger der erste Fall, desto schneller werden Sie sehen, ob es bei Ihren Daten funktioniert.
W JSON Crew Wir machen es stufenweise mit einem funktionierenden Prototyp auf Ihren Daten, bevor die Vollversion erstellt wird und die Zahlung in vier Raten aufgeteilt wird. Der vollständige Umfang und Ablauf ist auf der Website beschrieben KI-Implementierungen. Wenn Sie KI auch mit einem Vertriebssystem verbinden möchten, lesen Sie auch Was ist CRM? Und Was ist CPQ?.
Möchten Sie prüfen, ob RAG für Ihre Daten sinnvoll ist?
Wir zeigen Ihnen einen funktionierenden Prototyp anhand eines Musters Ihrer Dokumente, bevor Sie die vollständige Implementierung bezahlen.
RAG ist keine Zauberei. Es ist KI, die mit Ihrem Wissen verbunden ist.
Der gesamte Vorteil von RAG liegt in einem Punkt: Das Modelll hört auf, aus dem Internet zu raten, und beginnt mit dem zu antworten, was Ihr Unternehmen bereits weiß. Antworten Sie mit einem Link zur Quelle, einem ehrlichen „Ich weiß nicht”, anstatt Dinge zu erfinden, Daten dort, wo sie sein sollen. Das ist der Unterschied zwischen KI für Shows und KI, die den Job erledigt.
