top of page



Duży model na małym komputerze (cz. 2)
TL;DR Druga część cyklu o „suwerenności AI": jak uruchomić duży model językowy (LLM) lokalnie, na własnym komputerze. Lokalny LLM daje niezależność od dostawcy (brak ryzyka odcięcia), brak kosztów tokenów i pełną kontrolę nad danymi, które zostają na Twoim sprzęcie. Kompromis: działa wolniej niż modele „chmurowe", a bez większych inwestycji w sprzęt jesteśmy ograniczeni do mniejszych modeli. W praktyce stosujemy podejście hybrydowe: zadania wrażliwe i poufne wykonujemy lokaln

Tomasz Dyrda
26 cze5 minut(y) czytania


Duży model na małym komputerze (cz. 1)
TL;DR To pierwsza część cyklu o „suwerenności AI": fundamenty — czym są duże modele językowe (LLM), jak działają i jak z nich korzystać. LLM generuje odpowiedź, przewidując tekst; nie jest deterministycznym algorytmem, więc te same dane wejściowe dają podobne, lecz nie identyczne wyniki. Model jest „pretrained" — jego wagi są zamrożone, a Twój prompt nie douczy modelu (to, czy dostawca wykorzysta dane do kolejnej wersji, reguluje polityka lub umowa, np. DPA). Halucynacje to n

Tomasz Dyrda
18 cze11 minut(y) czytania
bottom of page
