Walidacja wyjścia AI

Walidacja wyjścia AI to etap po odpowiedzi modelu, w którym system sprawdza, czy wynik nadaje się do dalszego użycia. Model może napisać przekonujący tekst, ale automatyzacja potrzebuje danych o określonej strukturze: na przykład kategorii leada, priorytetu, tematu maila i listy kolejnych kroków. Walidacja określa, które pola są wymagane, jaki mają typ, jakie wartości są dozwolone i co zrobić, gdy odpowiedź nie spełnia warunków. Nie jest to poprawianie stylu odpowiedzi. To techniczna i biznesowa bramka przed zapisaniem danych, wysłaniem komunikatu lub uruchomieniem narzędzia.

Najprostsza warstwa to walidacja struktury. Zamiast prosić model o dowolny opis, definiujesz kontrakt, na przykład obiekt z polami „segment”, „powód” i „następny_krok”. JSON Schema służy właśnie do deklarowania struktury i ograniczeń danych JSON, a walidator sprawdza zgodność konkretnego obiektu ze schematem. Niektóre API modeli oferują ustrukturyzowane wyjścia, które pomagają wymusić zgodny format. To nadal nie znaczy, że wynik jest prawdziwy lub właściwy biznesowo. Format może być poprawny, a klasyfikacja leada nadal błędna.

Druga warstwa dotyczy znaczenia i reguł biznesowych. Jeśli system kwalifikuje zapytania o konsultację, możesz dopuścić tylko segmenty „konsultacja”, „warsztat”, „współpraca” i „niepewne”. Możesz wymagać, aby uzasadnienie zawierało cytat z wiadomości, a termin follow-upu nie był w przeszłości. Wartości typu cena, adres e-mail, numer telefonu albo identyfikator rekordu powinny przejść niezależne reguły, a nie być bezkrytycznie przejęte z odpowiedzi modelu. Reguła biznesowa ma źródło poza AI: w CRM, ofercie albo polityce firmy.

Praktyczny przykład: formularz zbiera opis problemu klienta, a model przygotowuje rekord do CRM. Model zwraca JSON z propozycją segmentu, streszczeniem i szkicem odpowiedzi. Przed zapisem workflow sprawdza, czy JSON da się odczytać, czy segment jest na dozwolonej liście, czy streszczenie nie jest puste oraz czy wynik nie zawiera danych, których nie powinien dodawać. Gdy warunek nie przejdzie, rekord trafia do kolejki ręcznej weryfikacji z oryginalnym zgłoszeniem. Dopiero poprawny wynik może stworzyć zadanie follow-up. Dzięki temu pojedynczy błąd formatu nie zatrzymuje całej automatyzacji ani nie tworzy śmieciowych danych.

Walidacja powinna obsłużyć także trzy normalne stany odpowiedzi modelu: odmowę, wynik niekompletny oraz przekroczenie limitu. Dokumentacja OpenAI pokazuje, że odpowiedź może zostać przerwana na przykład przez limit tokenów albo filtr treści, a model może też zwrócić odmowę zamiast oczekiwanego obiektu. Traktuj je jako jawne gałęzie procesu, nie jako zwykły błąd parsowania. W takim przypadku nie próbuj na siłę wyciągać pól z częściowego tekstu. Zapisz czytelny status, zachowaj bezpieczne minimum diagnostyczne i skieruj zadanie do ponowienia lub człowieka.

Częsty błąd to mylenie polecenia „odpowiedz w JSON” z walidacją. Sam prompt może zmniejszyć liczbę błędów, lecz nie zastępuje sprawdzenia po stronie aplikacji. Model może zwrócić fragment JSON, dodatkowy tekst, wartość spoza listy albo bardzo pewną halucynację. Drugi błąd to walidowanie tylko składni. Obiekt zgodny z JSON Schema nadal może zawierać wymyślony link, złą kwotę lub decyzję, której agent nie ma prawa podjąć. Im większy skutek działania, tym bardziej potrzebujesz połączenia schematu, reguł domenowych i zatwierdzenia człowieka.

Wdrożenie zacznij od jednego wyjścia, które dziś ręcznie kopiujesz między narzędziami. Zapisz przykłady dobrego i złego wyniku. Potem zdefiniuj minimalny schemat, dozwolone wartości i bezpieczną ścieżkę błędu. Przetestuj go na historycznych, zanonimizowanych przykładach, także na pustej odpowiedzi, odmowie oraz błędnym polu. Mierz odsetek odrzuceń i przyczynę, ale nie obniżaj reguł tylko po to, by wskaźnik wyglądał lepiej. Dobra walidacja oddziela odpowiedzi użyteczne od tych, które wymagają korekty, zanim błąd stanie się wpisem w CRM lub wiadomością do klienta.