Co to jest RAG? Asystent AI na danych Twojej firmy

Zadałeś ChatGPT pytanie o własny produkt. Odpowiedział pewnym tonem i całkowicie zmyślił. Bo nie zna Twojego cennika, Twoich procedur ani Twojej dokumentacji. To nie jest wina AI, to wina sposobu, w jaki ją podłączyłeś. RAG rozwiązuje dokładnie ten problem. Co to jest RAG i kiedy Twoja firma realnie go potrzebuje? Po kolei.

Co to jest RAG?

RAG to skrót od Retrieval-Augmented Generation, czyli generowanie odpowiedzi wsparte wyszukiwaniem. To technika, którą w 2020 roku opisali badacze w pracy naukowej Lewisa i współpracowników. Brzmi akademicko, ale idea jest prosta.

RAG łączy dwie rzeczy: wyszukiwarkę po Twoich dokumentach i model językowy, który układa z nich odpowiedź. Zamiast pytać model „co wiesz o tym z internetu”, pytasz „co wiesz na podstawie tych moich dokumentów”. Model dostaje pytanie razem z fragmentami Twojej bazy wiedzy i na nich opiera odpowiedź.

Wyobraź sobie nowego handlowca, który dostał klucz do segregatora z całą wiedzą firmy: cenniki, specyfikacje, historia ustaleń z klientami, instrukcje. Pytasz go o cokolwiek, a on znajduje właściwą stronę i czyta z niej, zamiast zgadywać. RAG to ten handlowiec, tylko że odpowiada w sekundę i nigdy nie idzie na urlop.

Jak działa RAG? Trzy kroki

RAG rozbija odpowiadanie na trzy etapy:

1. Indeksowanie: Twoje dokumenty (PDF, baza, maile, strony) są dzielone na fragmenty i zapisywane w sposób, który pozwala je szybko przeszukiwać po znaczeniu, a nie tylko po słowie kluczowym. To dzieje się raz, a potem aktualizuje się przy zmianach.

2. Wyszukanie: gdy ktoś zadaje pytanie, system wyszukuje fragmenty Twoich dokumentów najbardziej pasujące do tego pytania. Nie cały segregator, tylko te dwie, trzy strony, które są na temat.

3. Generacja z cytatem: model dostaje pytanie plus znalezione fragmenty i układa z nich zwięzłą odpowiedź. Do tego dokłada odnośnik do dokumentu, z którego skorzystał, więc możesz to zweryfikować.

Trzy kroki. Efekt: odpowiedź oparta na Twojej wiedzy, z możliwością sprawdzenia skąd pochodzi.

Czym RAG różni się od zwykłego ChatGPT?

To pytanie pada najczęściej, bo wiele osób próbowało już gotowych narzędzi i się sparzyło. Różnica jest w trzech miejscach.

Zna Twoje dane. Gotowy model został nauczony na ogólnych danych z internetu. Nie zna Twojego cennika z tego kwartału ani ustaleń z konkretnym klientem. RAG podpina go do Twojej bazy wiedzy, więc odpowiada z tego, co masz u siebie.

Pokazuje źródło. Zwykły czat podaje odpowiedź bez wskazania, skąd ją wziął. RAG dokłada odnośnik do dokumentu. Handlowiec albo klient może kliknąć i sprawdzić, zamiast wierzyć na słowo.

Mówi „nie wiem”. To brzmi błaho, ale jest kluczowe. Gdy model nie ma podstawy w Twoich danych, dobrze zbudowany RAG odpowiada, że nie ma informacji, zamiast pewnym tonem podać nieprawdę. W firmie pewna siebie nieprawda kosztuje więcej niż uczciwe „nie wiem”.

Po co firmie RAG? Cztery sygnały, że ma sens

RAG nie jest dla każdego i nie do wszystkiego. Ale jeśli rozpoznajesz przynajmniej dwa z tych objawów, rozmowa ma sens.

• Wiedza siedzi w głowach i w setkach plików. Handlowiec dzwoni do technologa, bo nie wie, czy produkt pasuje do maszyny. Wdrożenie nowej osoby trwa miesiące, bo wiedzy nie ma w jednym miejscu.
• Ktoś ręcznie sortuje maile i zgłoszenia. Skrzynka kontaktowa to worek: zapytania, reklamacje, faktury. Klasyfikacja oparta o AI potrafi to oznaczać i kierować dalej.
• Dokumenty czytane i przepisywane ręcznie. Faktury, zamówienia, specyfikacje. AI czyta dokument i wyciąga dane, a człowiek tylko zatwierdza niepewne przypadki.
• Próbowałeś gotowego czatu, ale zmyślał. Bo nie znał Twojej firmy. RAG podpina model do Twojej wiedzy i ten problem znika.

Jeśli głównym celem jest automatyzacja powtarzalnych zadań, a nie samo odpowiadanie z wiedzy, zacznij od automatyzacji procesów, a AI dołóż tam, gdzie realnie pomaga.

Czy RAG zmyśla?

Uczciwa odpowiedź: halucynacji żadnej technologii nie da się wyzerować do zera. Ale da się je mocno ograniczyć i wyłapywać, i to jest cała różnica między zabawką a narzędziem do firmy.

W dobrze zbudowanym RAG odpowiedzi są oparte na znalezionych fragmentach, model jest zmuszony cytować dokument, a jakość mierzy się na Twoich realnych pytaniach. Ustawia się też próg, poniżej którego model mówi, że nie wie, zamiast zgadywać. Jakość oceniasz na prototypie, na próbce swoich dokumentów, zanim zdecydujesz o pełnym wdrożeniu.

RAG a RODO: gdzie są moje dane?

To pytanie decyduje o całej architekturze, więc zadaje się je na początku, nie na końcu.

Gdy dane są wrażliwe (dane osobowe, finanse, dokumenty wewnętrzne), model można postawić na Twoim serwerze i wtedy dane nie wychodzą poza Twoją infrastrukturę. Gdy takich ograniczeń nie ma, korzysta się z modeli w chmurze, co jest tańsze i szybsze. Dobrze zaprojektowana architektura pozwala też przepiąć się na inny model, gdy ceny albo polityka dostawcy się zmienią, więc nie uzależniasz się od jednego dostawcy.

Od czego zacząć z RAG?

Od jednego konkretnego pytania: co ma robić AI i na jakich danych. Nie „wdróżmy AI”, tylko „chcę, żeby nowy handlowiec dostawał odpowiedzi z naszej dokumentacji technicznej w sekundy”. Im węższy pierwszy przypadek, tym szybciej zobaczysz, czy to działa na Twoich danych.

W JSON Crew robimy to w etapach z działającym prototypem na Twoich danych, zanim powstanie pełna wersja, a płatność jest rozłożona na cztery raty. Pełny zakres i proces opisaliśmy na stronie wdrożeń AI. Jeśli przy okazji chcesz spiąć AI z systemem sprzedaży, zobacz też co to jest CRM oraz co to jest CPQ.

RAG to nie magia. To AI podpięta do Twojej wiedzy.

Cała przewaga RAG bierze się z jednej rzeczy: model przestaje zgadywać z internetu i zaczyna odpowiadać z tego, co Twoja firma już wie. Odpowiedź z linkiem do źródła, uczciwe „nie wiem” zamiast wymyślania, dane tam gdzie mają być. To jest różnica między AI na pokaz a AI, która robi robotę.