HVG.hu
2025.02.20 16:03
Bravúros ötlet: egy mérnök zsebben elférő méretűre kicsinyített egy nagy nyelvi modell
Egy mérnöknek sikerült egy nagy nyelvi modellt olyan kicsinyítenie, hogy az egy USB-meghajtóra is ráfért. Az új eszköz lehetővé teszi, hogy az LLM helyben fusson anélkül, hogy szükség lenne felhő alapú számítástechnikára, ami csökkentheti a karbonlábnyomot.