Encyklopedia AI

Temperature

Temperatura AI

Temperatura to parametr modelu AI, który decyduje, jak przewidywalna będzie odpowiedź.

  • Technologia
  • 2 min czytania
  • Aktualizacja:

Niska (0-⁠0.3) daje powtarzalny wynik do kodu i danych; wyższa (0.7-⁠1) więcej różnorodności do tekstów. Nie zmienia wiedzy modelu - tylko sposób wyboru kolejnego słowa.

Niska temperatura (0-⁠0.3) każe modelowi wybierać najbardziej prawdopodobne kolejne tokeny, więc dostajesz powtarzalny, zachowawczy wynik. Wysoka (0.7-⁠1) daje szansę mniej oczywistym tokenom, więc odpowiedzi są bardziej różnorodne. Temperatura nie zmienia wiedzy modelu. Zmienia tylko to, jak wybiera kolejne słowo.

Działa to przez mechanizm SoftMax: model generuje surowe wagi (logity) dla każdego potencjalnego tokenu, a funkcja SoftMax zamienia je na prawdopodobieństwa sumujące się do 1. Temperatura jest dzielnikiem w funkcji SoftMax - im wyższa wartość, tym bardziej „spłaszcza" rozkład, dając szansę również mniej oczywistym wyborom.

Skala temperatury różni się między dostawcami. W API Anthropic (Claude) zakres wynosi 0.0-⁠1.0 z domyślną wartością 1.0. W OpenAI (GPT) zakres to 0.0-⁠2.0 z domyślną wartością 1.0. W Google Gemini - analogicznie 0.0-⁠2.0. Wartość 0.0 nie gwarantuje deterministycznych odpowiedzi (sprzętowe zaokrąglenia i optymalizacje GPU mogą wprowadzać drobne różnice), ale w praktyce odpowiedzi są niemal identyczne.

Praktyczne zastosowania. Do zadań wymagających precyzji - kod, analiza danych, ekstrakcja faktów, generowanie JSON, pisanie formalnych dokumentów - używaj temperatury 0.0-⁠0.3. Do contentu marketingowego, postów na social media, wariantów nagłówków i burzy mózgów - 0.7-⁠1.0. Do pisania kreatywnego, generowania metafor i nieszablonowych pomysłów - 1.0. Claude z temperaturą 0.0 świetnie sprawdza się jako asystent kodu i analityk; z temperaturą 1.0 - jako partner do pisania.

Temperatura a Top-⁠P (nucleus sampling). To osobne parametry, ale często używa się ich zamiennie. Top-⁠P określa, jaki procent skumulowanego prawdopodobieństwa ma być brany pod uwagę (np. Top-⁠P 0.9 = bierz tokeny składające się na 90% szans). W praktyce nie warto zmieniać obu naraz - wybierz jeden. Temperatura jest prostsza i wystarcza w większości przypadków. Top-⁠P przydaje się, gdy chcesz wyeliminować zupełnie niszowe tokeny bez spłaszczania prawdopodobieństw w środku rozkładu.

Ograniczenia. Temperatura nie zmienia wiedzy modelu ani jego stylu - tylko to, które tokeny są wybierane. Nie sprawi, że model nagle zacznie dobrze rozumieć Twoją branżę, jeśli nie masz dobrego system prompta ani kontekstu. Badanie "Is Temperature the Creativity Parameter of Large Language Models?" (Peeperkorn i in., 2024) wskazuje, że temperatura wpływa raczej na różnorodność niż na jakość kreatywności - wysoka temperatura daje więcej wariantów, ale nie gwarantuje, że będą lepsze.

Dla soloprzedsiębiorcy budującego własny system AI temperatura to narzędzie do szybkiego prototypowania treści: ustaw wysoką, wygeneruj 5 wariantów nagłówka, wybierz najlepszy. Potem obniż do 0.2 i każ AI go rozwinąć w spójny akapit. W automatyzacjach (np. agent researchujący konkurencję) trzymaj temperaturę niską - nie chcesz, żeby agent wymyślał dane.

Najczęstsze pytania

Jaką temperaturę ustawić w Claude do pisania postów na Instagrama?

Do postów na social media, nagłówków i contentu marketingowego sprawdza się temperatura 0.7-⁠0.8. Daje wystarczającą różnorodność, żeby uniknąć sztampy, ale nie na tyle wysoką, żeby odpowiedzi były chaotyczne. Jeśli potrzebujesz 5 wariantów tego samego opisu produktu, ustaw 0.9, wygeneruj kilka wersji i wybierz najlepszą. Do codziennych postów newslettera lepiej zostać przy 0.3-⁠0.5 - chcesz spójnego głosu, nie przypadku.

Czy temperatura 0 oznacza, że za każdym razem dostanę tę samą odpowiedź?

Nie do końca. W teorii temperatura 0 powinna dawać deterministyczne wyniki, bo model zawsze wybiera token z najwyższym prawdopodobieństwem. W praktyce sprzętowe zaokrąglenia na GPU i optymalizacje wydajności wprowadzają niewielkie różnice. Jeśli potrzebujesz powtarzalnych odpowiedzi (np. do testów), dodaj parametr „seed" (tam, gdzie jest wspierany, np. u OpenAI). U Anthropica seed nie jest dostępny - zamiast tego ustaw temperature na 0, a do krytycznych zastosowań dodaj weryfikację wyniku w kodzie.

Źródła

  1. IBM: What is LLM Temperature?ibm.com (otwiera się w nowej karcie)
  2. Vellum: Temperature - LLM Parameter Guidevellum.ai (otwiera się w nowej karcie)
  3. Anthropic: Claude API Reference - Messagesdocs.anthropic.com (otwiera się w nowej karcie)

Chcesz więcej takich konkretów?

Co niedzielę wysyłam jeden praktyczny mail o AI, sprzedaży wiedzy i budowaniu systemów, które realnie pomagają w pracy.

Archiwum wydań

„Ten newsletter nie jest nachalny, urzeka autentycznością, a osobiste historie Bartka są świetnym punktem odniesienia do moich własnych doświadczeń.”
Małgorzata BabskaMałgorzata Babskaarchitektka

Chcesz konkret, a nie ogólną rozmowę o AI?

W 30 minut przechodzimy przez Twój biznes i mówię wprost, co zrobiłbym najpierw.

Prywatność i cookies

Odwiedziny liczę anonimowo. Za Twoją zgodą włączę analitykę i marketing, żeby wiedzieć, co działa. Polityka prywatności

Kategorie plików cookies