Wiedza · Trend · AI
Czego chatbot nie może powiedzieć: halucynacje i prawo
Obawa przed botem, który obieca klientowi cenę z sufitu albo wypuści dane, potrafi zatrzymać wdrożenie AI na poziomie zarządu. Słusznie — bo bezpieczeństwo nie mieszka w promptcie, tylko w architekturze: w tym, skąd model bierze liczby i co dzieje się z odpowiedzią, zanim zobaczy ją klient. A odpowiada za nią firma, nie bot.
Co się właśnie zmienia
Era „testowania” AI w piaskownicy dobiegła końca – firmy wymagają teraz pełnej odpowiedzialności prawnej za słowa bota. Rośnie znaczenie systemów typu guardrails, które filtrują odpowiedzi AI, zanim te trafią do klienta, eliminując ryzyko błędnych deklaracji finansowych.
Co możesz zrobić lepiej
Konkretnie, od dziś
- Wprowadź warstwę weryfikacji cenowej (hard filters), która blokuje jakiekolwiek liczby niepochodzące z Twojej bazy danych.
- Zanim rozmowa trafi do modelu, podmień dane osobowe na identyfikatory — zamiast „Jan Kowalski” niech idzie „klient 4471”. To realnie zmniejsza ryzyko, ale nie wyprowadza Was spod RODO: dopóki gdziekolwiek istnieje klucz pozwalający wrócić do konkretnej osoby, są to nadal dane osobowe. Spod RODO wychodzi wyłącznie anonimizacja nieodwracalna, a tej zwykle nie chcecie — razem z nią tracicie wiedzę, czyja to rozmowa.
- Stosuj logowanie „query-response” w bezpiecznym, odizolowanym środowisku, umożliwiając audyt każdej interakcji.
- Wymuś tryb ograniczony (Grounding), w którym bot może korzystać wyłącznie z dostarczonych dokumentów firmowych.
Dowód z naszych wdrożeń
W FlashAI rozwiązaliśmy to architekturą, nie zaklęciem w promptcie. Reguły anty-halucynacyjne doklejane są w czasie działania i tylko dla tych narzędzi, które dany bot faktycznie ma — nie opowiadamy modelowi o funkcjach, których u siebie nie znajdzie. Przy cenniku brzmi to twardo: bot ma obowiązek odpytać katalog przed zacytowaniem jakiejkolwiek ceny i nigdy nie cytuje z pamięci. Nie wolno mu wymienić pozycji, której katalog nie zwrócił — lista jest ograniczona do oferty firmy, nie do jego ogólnej wiedzy o branży. Gdy nie znajdzie nic, ma powiedzieć wprost, że nie ma tego w cenniku online, i odesłać do człowieka, zamiast zgadywać. Widełki cytuje dosłownie, bez wyliczania średniej. To jest dokładnie ta separacja logiki biznesowej od modelu, o której piszemy w pytaniach niżej.
Najczęstsze pytania
Jak zablokować halucynacje cenowe bota?
Należy odseparować logikę biznesową od modelu językowego. AI powinno jedynie wskazywać kategorię produktu, a konkretną cenę musi pobierać zewnętrzny skrypt z Twojego systemu ERP/PIM.
Czy logowanie rozmów jest zgodne z RODO?
Tak, ale nie „samo z siebie". Zacznij od podstawy prawnej przetwarzania i od poinformowania użytkownika, po co zapisujecie rozmowę — to obowiązek informacyjny, nie dobry zwyczaj. Dalej: określony okres retencji zamiast trzymania logów bezterminowo, ograniczenie dostępu i obsługa żądań usunięcia. Uwaga na słowa: „dane wrażliwe" to w RODO osobna kategoria (m.in. zdrowie, przekonania), objęta ostrzejszym reżimem — jeśli bot obsługuje przychodnię, jesteście właśnie tam. Zwykła rozmowa handlowa to dane osobowe, ale nie wrażliwe. Szerzej piszemy o tym w tekście o zgodach i audycie RODO.
Czy firma odpowiada za to, co powie jej chatbot?
Praktyka idzie w stronę odpowiedzi twierdzącej. Najgłośniejszy precedens to sprawa Moffatt przeciwko Air Canada z 2024 roku: bot podał pasażerowi nieprawdziwe warunki zniżki, a linia broniła się, że chatbot jest odrębnym podmiotem odpowiadającym za swoje słowa. Trybunał tę linię obrony odrzucił i uznał przewoźnika za związanego informacją z własnej strony. To orzeczenie kanadyjskie, nie polskie, ale kierunek jest czytelny: bot jest kanałem komunikacji firmy, a nie osobnym bytem. Dlatego kontrola wyjścia to nie kwestia jakości obsługi, tylko ryzyka finansowego.
Zabezpiecz swoje wdrożenie AI
Nie pozwól, by strach przed błędami AI blokował Twój rozwój. Pomożemy Ci postawić bezpieczne bariery.
