top of page



Duży model na małym komputerze (cz. 2)
TL;DR Druga część cyklu o „suwerenności AI": jak uruchomić duży model językowy (LLM) lokalnie, na własnym komputerze. Lokalny LLM daje niezależność od dostawcy (brak ryzyka odcięcia), brak kosztów tokenów i pełną kontrolę nad danymi, które zostają na Twoim sprzęcie. Kompromis: działa wolniej niż modele „chmurowe", a bez większych inwestycji w sprzęt jesteśmy ograniczeni do mniejszych modeli. W praktyce stosujemy podejście hybrydowe: zadania wrażliwe i poufne wykonujemy lokaln

Tomasz Dyrda
26 cze5 minut(y) czytania


Co łączy kota bengalskiego i „paragon grozy”? Ten sam problem dowodowy
Gen AI pomaga w oszustwach, ale są metody które pozwalają z tym walczyć, również w oparciu o AI.

Tomasz Dyrda
25 lut4 minut(y) czytania
bottom of page
