OMLX – kodo agentai vietinėse LLM be skausmingo išankstinio užpildymo
jundot·▲ 3·24.02.2026 18:35
Santrauka lietuviškai
OMLX yra įrankis, skirtas pagerinti vietinių didelių kalbos modelių (LLM) naudojimą kodo kūrimo užduotims. Jis išsprendžia pagrindinę problemą – nuolatinį konteksto perkrovimą, išsaugodamas KV talpyklos blokus kietajame diske ir atkuriant juos, kai reikia, vietoj perskaičiavimo. Tai leidžia efektyviai naudoti net 80 milijardų parametrų modelius, kaip Qwen3-Coder-80B, realiose programavimo sesijose. Be to, įrankis siūlo tolesnį paketinį apdorojimą, kelių modelių aptarnavimą ir patogią macOS meniu juostos programėlę.
Originalus pavadinimas
Show HN: OMLX – coding agents on local LLMs without the painful reprefill
Susijusios naujienos