Okno kontekstowe (context window)

Czym jest okno kontekstowe

Okno kontekstowe, po angielsku context window, to limit informacji dostępnych dla modelu językowego w pojedynczym zadaniu. Informacje są liczone w tokenach, nie w stronach ani znakach. Do limitu zwykle wchodzą: instrukcja systemowa, Twój prompt, wcześniejsze wiadomości, załączone dokumenty, wyniki wywołań narzędzi oraz miejsce potrzebne na odpowiedź modelu. Jeżeli całość nie mieści się w oknie, aplikacja musi coś skrócić, pominąć, skompaktować albo zakończyć żądanie.

To nie jest pamięć AI

Duże okno kontekstowe pomaga modelowi odwołać się do większej części bieżącej rozmowy lub materiału, ale samo w sobie nie tworzy trwałej pamięci o Twojej firmie. Pamięć produktu, plik projektu, RAG i baza wiedzy są osobnymi mechanizmami. W praktyce: model może dobrze analizować długi brief w jednym zadaniu, a mimo to nie pamiętać go w następnym projekcie, jeśli aplikacja nie zapisze i nie poda tych danych ponownie.

Dlaczego ma znaczenie w pracy eksperta

Gdy tworzysz ofertę, stronę albo serię treści, AI potrzebuje naraz kilku warstw: odbiorcy, pozycjonowania, zasad języka, produktu, dowodów i aktualnego zadania. Za mało dostępnego kontekstu powoduje, że odpowiedź staje się ogólna lub niespójna, mimo że pojedynczy prompt brzmi dobrze. Większe okno daje więcej miejsca, ale nie zastępuje porządku. Najważniejsze informacje powinny być krótkie, aktualne i łatwe do rozpoznania przez model.

Praktyczny przykład: strona sprzedażowa

Zamiast wkleić do czatu wszystkie notatki, rozmowy z klientami i stare teksty, przygotuj jedno źródło prawdy: kim jest odbiorca, jaki ma problem, co dokładnie oferujesz, jakie masz dowody i jaki jest ton marki. Do zadania dodaj tylko ten plik oraz brief konkretnej strony. Następnie poproś AI najpierw o mapę komunikatu, a dopiero potem o sekcje. Zmniejszasz ryzyko, że ważna informacja zginie w historii rozmowy, i łatwiej poprawiasz jeden element bez przepisywania wszystkiego.

Limity i pułapki

Większe okno nie gwarantuje lepszego wykorzystania każdego fragmentu. Model może gorzej zauważać informację schowaną w środku bardzo długiego wejścia, a nadmiar powtarzalnych instrukcji podnosi koszt i utrudnia kontrolę. Limit zależy też od konkretnego modelu i konfiguracji, a część limitu musi zostać na odpowiedź. Nie zakładaj więc, że model przeczyta wszystko tylko dlatego, że przyjmuje duży plik. Dziel materiał na sensowne części, zapisuj decyzje i przy zmianie zadania zaczynaj świeży kontekst.

Jak zarządzać kontekstem bez technicznego długu

Trzymaj stałe zasady marki i oferty w krótkim dokumencie, a materiały robocze dodawaj tylko wtedy, gdy są potrzebne. Przy długiej współpracy z agentem poproś o zwięzłe podsumowanie decyzji, zanim przejdziesz do kolejnego etapu. W rozwiązaniach opartych o API stosuje się liczenie tokenów, streszczanie lub compaction, czyli zastępowanie długiej historii użytecznym skrótem. Dla osoby nietechnicznej zasada jest prostsza: jeden projekt, jedno źródło prawdy, jedno zadanie naraz.

Co warto przeczytać dalej

Okno kontekstowe jest fundamentem działania dużych modeli językowych. Jeśli budujesz system, zobacz też hasła: Duży model językowy (LLM), Prompt systemowy i Agent AI. Gdy potrzebujesz danych spoza bieżącej rozmowy, kolejnym krokiem jest RAG, który wyszukuje właściwe fragmenty zamiast wkładać całą bazę wiedzy do każdego promptu.