Didieji kalbos modeliai degina pinigus ir slūgso ant žetonų – reikia iš naujo sukurti lustus nuo pagrindų

Santrauka lietuviškai

Didžiųjų kalbos modelių (LLM) veikimas yra nepaprastai brangus dėl didelių skaičiavimo išteklių poreikių, o jų veikimas priklauso nuo žetonų, kurie gali riboti našumą. Straipsnyje teigiama, kad dabartinės lustų technologijos gali būti netinkamos efektyviai palaikyti tokių modelių. Autorius ragina radikaliai peržiūrėti lustų architektūrą ir sukurti specializuotus sprendimus, skirtus dirbtinio intelekto skaičiavimams, kad būtų išspręstos šios iššūkios.