Visos Reddit naujienos

Galutiniai Qwen 3.6 balsavimo rezultatai

Atnaujinimas apie Gemma 4 su MTP: Atvirkštinio inžinerijos pastangos

Daugiau nereikia debesijos LLM greitam interneto tyrimui

LocalLLama būklė

Neprisijungęs prie interneto palydovas robotas mano neįgaliam vyrui (su 8GB RAM apribojimais) – ieškau optimizavimo patarimų

Qwen3.5-122B veikia 198 ženklų per sekundę naudojant 2 RTX PRO 6000 Blackwell — biudžetinė sistema, patvirtinti rezultatai

Opus = 0,5T × 10 = ~5T parametrai?

Alibaba pristato Marco-Mini (17,3 mlrd., 0,86 mlrd. aktyvūs) ir Marco-Nano (8 mlrd., 0,6 mlrd. aktyvūs)

16 GB VRAM naudotojai, kurį modelį dabar mėgstame labiausiai?

Backend-agnostinis tenzorių paralelizmas sujungtas su llama.cpp

Vietiniai (maži) LLM modeliai aptiko tas pačias pažeidžiamumas kaip ir Mythos

„Hugging Face“ pristato naują saugyklos tipą: Branduoliai

„Mythos Preview“ saugumo apgaulė: „Anthropic“ tiesiog slepia beprotiškas skaičiavimo išlaidas. Atviri modeliai jau tai daro.

OpenWork, atvirojo kodo Claude Cowork alternatyva, tyliai keičia licencijavimą į komercinę licenciją

Ar ši nuomonė nėra pernelyg išgalvota?

Gemma 4 ant Llama.cpp dabar turėtų būti stabili

Naujas modelis! LGAI-EXAONE/EXAONE-4.5-33B

Neįtikėtina, kiek dabar yra „lobotomizuotas“ Opus 4.6. Net Gemma 4 31B UD IQ3 XXS jį aplenkė automobilių plovimo teste ant mano 5070 TI.

Išleistas EXAONE 4.5

Kodėl įmonės kuria atviro kodo modelius?

Naujas TTS modelis: VoxCPM2

Pi.dev kodavimo agentas perkeliamas į Earendil

Opus, Gemini ir ChatGPT geriausi modeliai dingo iš Arenos – ar tai yra priežastis?

Pagaliau įvyko: radau vietinio LLM pritaikymo atvejį ir tai buvo nuostabu

Išaiškinau didelį talpyklos pakartotinio naudojimo problemą, kuri kyla dėl Qwen 3.5 pokalbių šablono

Meta neatsisako atvirojo kodo

Meta naujas samprotavimo modelis Muse Spark

Kaip „Anthropic“ kalbėtų apie „Mythos“, jei jį atvertų visuomenei

Qwen3.5-35B-A3B-Uncensored-FernflowerAI-GGUF

HF perduoda safetensors PyTorch Fondą

Kepler-452b. Kada GGUF?

Atrodo, kad reikės atsisiųsti naujus Gemma 4 GGUFs

M5 Max 128GB, 17 modelių, 23 užklausos: Qwen 3.5 122B vis dar vietinis karalius

Ar Qwen27B dense tikrai yra geriausias vietinis agentinis kodavimas 32 GB VRAM?

Pirmasis atvirojo kodo dirbtinio intelekto modelis Egipte!

Gemma4-31B, naudodama iteracinio taisymo ciklą (su ilgalaikės atminties banku), per 2 valandas išsprendė problemą, kurios nepavyko išspręsti baziniam GPT-5.4-Pro

Radau šią įdomią naują priemonę, išbandysiu ją su naujuoju GLM 5.1. Vėliau pranešiu rezultatus.

kv-cache: palaikymas dėmesio sukimui nevienalyčiam iSWA

1 mlrd.+ žetonų per dieną aptarnauju vietiniame tyrimų laboratorijoje

GLM 5.1 našumo testų rezultatai

Kasdien pabundu ir dėkoju Dievui, kad gimiau 23 minutes nuo MicroCenter

GLM-5.1

Ar matėte tai? Pralenkia turboquant 18%

Agentų įgūdžių automatinis kūrimas stebint jūsų ekraną naudojant Gemma 4, kad bet kuris agentas galėtų juos vykdyti ir tobulėti

DFlash: Blokinė difuzija greitajai spekuliatyvajai dekodavimui

Dabar galite lokaliai tobulinti Gemma 4 modelį su 8GB VRAM + klaidų taisymai

TurboQuant – ekstremalus KV talpyklos kvantavimas · ggml-org/llama.cpp · Diskusija #20969

Gemma 4 31B GGUF kvantizacijos vertinamos pagal KL divergenciją (unsloth, bartowski, lmstudio-community, ggml-org)

Pasirodo, Gemma 4 visą laiką turėjo MTP (daugialypį ženklų prognozavimą)

Gemma 4 – didžiulis patobulinimas daugelyje Europos kalbų, įskaitant danų, olandų, prancūzų ir italų