JEPA i LLaDA: modele AI, które działają inaczej niż LLM
JEPA przewiduje reprezentacje, nie tekst. LLaDA odsłania tekst z masek, nie pisze od lewej do prawej. Definicje, przykłady z otwartymi wagami i to, co da się uruchomić w domu.
SzczegółyJak przyspieszyć lokalny model AI? MTP, DFlash i reszta metod
MTP, DFlash, speculative decoding, kwantyzacja, MoE i krótszy kontekst – trzy grupy metod przyspieszania lokalnego modelu, z moimi pomiarami z września 2026 i cudzymi liczbami podanymi ze źródłem.
SzczegółyDlaczego model 30B potrafi być szybszy niż 12B?
Model MoE 30B robi 30,4 tokena na sekundę, gęsty 12B na dłuższym kontekście – 11,3. O prędkości decyduje przede wszystkim liczba parametrów aktywnych na token, a nie liczba w nazwie modelu.
Szczegóły16 GB czy 32 GB do lokalnego AI?
Model 30B o obniżonej precyzji zajmuje 15–19 GB, więc w 16 GB nie zostaje nic na resztę. Zmierzone rozmiary plików i prędkości, i co naprawdę kupujesz za te 80–100 EUR.
SzczegółyJaki model AI uruchomisz lokalnie na mini PC?
Zmierzone na jednej maszynie ze zintegrowanym Radeonem 890M i 32 GB RAM: który model działa, ile tokenów na sekundę i dlaczego 30B bywa szybsze niż 12B.
SzczegółyIle prądu zużywa domowy serwer AI z APU zamiast GPU?
3–8 W na biegu jałowym, około 130 W pod pełnym obciążeniem. Całe wyliczenie w kWh, żebyś podstawił własną stawkę z rachunku za prąd.
SzczegółyAI a RODO: czy mogę wrzucić dane klienta do ChatGPT
Odpowiedź zależy od tego, co wyjeżdża z budynku. Co da się zrobić lokalnie, ile to naprawdę kosztuje i czego odcięcie od sieci nie załatwia.
SzczegółySiedem lat z Home Assistant: co się zepsuło i co poprowadziłbym inaczej
Siedem lat, sześć Arduino Mega, 6 km skrętki i około 400 encji. Co naprawdę się zepsuło w moim Home Assistant i co zrobiłbym inaczej.
Szczegóły