Zatwierdzanie działań agenta AI (human approval)

Zatwierdzanie działań agenta AI to punkt kontrolny między propozycją modelu a wykonaniem operacji w zewnętrznym narzędziu. Agent może przygotować wiadomość, wybrać rekordy w CRM albo złożyć parametry przelewu, lecz workflow nie wysyła żądania dalej, dopóki uprawniona osoba nie zaakceptuje konkretnego działania. Dobra bramka pokazuje nie tylko przycisk „zatwierdź”, ale też co zostanie zrobione, na jakich danych, w jakim systemie i z jakim skutkiem.

To węższe pojęcie niż człowiek w pętli AI. Human-in-the-loop opisuje ogólną rolę człowieka w procesie, na przykład ocenę jakości treści lub decyzję strategiczną. Human approval dotyczy pojedynczego przejścia: system ma zamiar wykonać akcję i potrzebuje decyzji „tak”, „nie” albo „wróć do poprawy”. Dzięki temu można automatyzować research, klasyfikację i przygotowanie draftu, a zarazem nie oddawać agentowi prawa do komunikacji z klientem lub zmiany produkcyjnych danych.

Bramkę warto stawiać według skutku, a nie według tego, czy model „wydaje się pewny”. Automatyczne mogą być odczyty, obliczenia, szkice i niskiego ryzyka aktualizacje, które można bezpiecznie odwrócić. Akceptacji wymagają zwykle: wysyłka maila lub posta, kontakt z leadem, usunięcie albo nadpisanie danych, uruchomienie płatności, publikacja oraz dostęp do wrażliwych informacji. Próg pewności modelu może pomóc zdecydować, czy pokazać wynik do przeglądu, ale nie zastępuje reguły biznesowej.

Praktyczny przykład: agent analizuje formularz konsultacyjny, sprawdza firmę i przygotowuje spersonalizowany follow-up. Zamiast samodzielnie wysłać wiadomość, zapisuje jej treść, adresata, źródła użyte do researchu i proponowany tag w panelu akceptacji. Bartek albo osoba z zespołu może zmienić tekst, odrzucić wysyłkę lub ją zatwierdzić. Dopiero po tej decyzji automatyzacja wywołuje narzędzie pocztowe, a rejestr zapisuje kto i kiedy podjął decyzję.

Sam ekran potwierdzenia nie zapewnia bezpieczeństwa. Przed wykonaniem narzędzia trzeba ponownie sprawdzić parametry, tożsamość osoby zatwierdzającej i aktualność zgody. Agent może bowiem zmienić dane po podglądzie, a złośliwa treść z maila lub strony może próbować wpłynąć na jego decyzję. Zgoda powinna wygasać po rozsądnym czasie, być przypisana do jednego działania oraz dawać się odtworzyć w rejestrze audytowym. Gdy system nie może uzyskać decyzji, bezpieczną odpowiedzią jest niewykonanie akcji.

Nie warto też tworzyć bramki przed każdym odczytem, bo człowiek szybko zacznie klikać bez sprawdzania. Zacznij od krótkiej tabeli działań: co agent może tylko odczytać, co może przygotować, co może wykonać automatycznie i co zawsze wymaga akceptacji. Po kilku tygodniach sprawdź, które decyzje są powtarzalne, ile razy wyniki były poprawiane i gdzie zdarzają się odrzucenia. Dopiero na tej podstawie rozszerzaj automatyzację. To pozwala rosnąć szybciej bez mylenia wygody z utratą kontroli.