Małe modele językowe (SLM)

Mały model językowy, po angielsku Small Language Model lub SLM, to model zaprojektowany tak, aby wykonywać określone zadania językowe przy mniejszym zużyciu zasobów niż duży model językowy. Nie ma jednej granicy liczby parametrów, która automatycznie czyni model „małym”. Znaczenie ma przede wszystkim praktyczny kompromis: model ma być wystarczająco dobry dla jasno określonego zadania, a jednocześnie szybki, tani w utrzymaniu i możliwy do uruchomienia bliżej danych lub użytkownika. SLM może działać w chmurze, na własnym serwerze, a niektóre warianty także na urządzeniu. Nie jest to osobna magia AI, lecz decyzja architektoniczna: nie każde zdanie potrzebuje największego dostępnego modelu.

Najważniejsza różnica między SLM a LLM dotyczy zakresu. Duży model ogólnego przeznaczenia lepiej radzi sobie z niejasnymi pytaniami, wieloetapowym rozumowaniem, szeroką wiedzą i sytuacjami, których wcześniej nie przewidziano. Mały model jest zwykle sensowny wtedy, gdy wejście, oczekiwany wynik i kryteria jakości są wąskie. Przykładem jest rozpoznanie, czy zgłoszenie konsultacyjne dotyczy strony, automatyzacji czy współpracy 1:1, ekstrakcja nazwy firmy i terminu z formularza albo przypisanie pytania klienta do jednej z zatwierdzonych kategorii. Jeśli zadanie jest nieprecyzyjne, SLM może brzmieć pewnie, ale wybrać złą kategorię lub pominąć ważny wyjątek.

Dla solopreneurki lub eksperta największą wartością SLM nie jest samo „działanie lokalnie”, ale powtarzalność kosztu i czasu przy częstym workflowie. Gdy codziennie analizujesz setki odpowiedzi z formularzy, transkrypcji lub komentarzy, krótkie, powtarzalne wywołania do dużego modelu mogą być niepotrzebnie drogie i wolne. Mały model może przygotować pierwszy etap: rozpoznać język, sklasyfikować intencję, odrzucić spam, usunąć oczywiste dane wrażliwe albo wyciągnąć pola do walidacji. Dopiero przypadki niepewne trafiają do większego modelu lub do ręcznej kolejki. Taki podział jest często lepszy niż próba zmieszczenia całego procesu w jednym dużym prompcie.

Praktyczny przykład: formularz konsultacji wpada do systemu sprzedaży wiedzy. SLM dostaje wyłącznie treść zgłoszenia i zwraca ustrukturyzowane pola: temat, etap biznesu, kompletność danych oraz poziom pewności klasyfikacji. Reguła aplikacji akceptuje wynik tylko wtedy, gdy format jest poprawny, a pewność przekracza wcześniej przetestowany próg. Gdy brakuje danych, klient pisze o nietypowej sprawie albo model nie jest pewny odpowiedzi, workflow tworzy zadanie do sprawdzenia zamiast zgadywać. Większy model może potem przygotować draft odpowiedzi na podstawie zatwierdzonego źródła prawdy. Żaden model nie wysyła wiadomości ani nie zmienia CRM bez osobnego, kontrolowanego kroku.

Wybór SLM zaczynaj od mierzalnego zadania, a nie od modelu. Zapisz jedno wejście, jeden oczekiwany rezultat i granice błędu. Przy klasyfikacji leadów przygotuj przykłady typowe, niepełne i graniczne, a następnie porównaj wynik modelu z oceną człowieka. Przy ekstrakcji sprawdź nie tylko to, czy tekst brzmi poprawnie, ale czy zwrócony JSON ma wszystkie pola i czy wartości zgadzają się ze źródłem. Ustal koszt błędu. Błędne oznaczenie wewnętrznego tagu może być łatwe do odwrócenia, ale zła odpowiedź o cenie, płatności lub warunkach współpracy wymaga większego modelu, źródła faktów i zatwierdzenia człowieka.

Małe modele bywają wybierane ze względu na prywatność, lecz lokalne uruchomienie nie daje automatycznie bezpieczeństwa ani zgodności. Nadal trzeba ustalić, kto ma dostęp do serwera, gdzie lądują logi, jak długo pozostają pliki, skąd pochodzi model i czy jego licencja pozwala na planowane użycie. Model uruchomiony lokalnie może też wymagać aktualizacji, monitorowania oraz zabezpieczenia endpointu. Przy danych klientów ograniczaj zakres wejścia niezależnie od wielkości modelu. Przekazuj minimum potrzebne do zadania, nie całą skrzynkę, CRM lub historię rozmów. Mniejszy model nie naprawi błędnej polityki danych.

Najczęstsza pułapka to utożsamienie mniejszego modelu z gorszym albo bezpłatnym. Dobrze dobrany SLM może wygrać w wąskiej klasyfikacji dzięki krótszemu czasowi odpowiedzi i łatwiejszej kontroli formatu. Może też przegrać, gdy zadanie wymaga języka branżowego, aktualnej wiedzy, wielu dokumentów lub rozumienia wyjątków. Druga pułapka to test na kilku wygodnych przykładach. Wynik należy mierzyć na reprezentatywnym zbiorze, także z polskimi nazwami, literówkami i niepełnymi danymi. Trzecia to brak ścieżki eskalacji. System powinien umieć powiedzieć „nie wiem”, przekazać sprawę dalej i zapisać powód, zamiast wymuszać odpowiedź.

Dobry start to jeden etap o niskim ryzyku, na przykład tagowanie tematów pytań z newslettera lub wyciąganie pól z własnych briefów. Zbuduj mały zestaw zatwierdzonych przykładów, wybierz metrykę dopasowaną do zadania i porównaj SLM z obecnym procesem. Jeśli wynik jest wystarczający, włącz go za flagą funkcji dla ograniczonej części ruchu. Loguj wersję modelu, promptu, wynik walidacji i przypadki przekazane do ręcznej kontroli. Dopiero po takiej próbie zdecyduj, czy SLM ma obsłużyć więcej etapów. Celem nie jest użycie najmniejszego modelu za wszelką cenę. Celem jest właściwy model dla konkretnej decyzji biznesowej.