LM Studio 0.3.10 wprowadza Spekulatywne…

Data News news
LM Studio 0.3.10 wprowadza Spekulatywne Dekodowanie, które przyspiesza inferencję do 2x lub więcej bez utraty jakości, kompatybilne z modelami GGUF/llama.cpp oraz MLX, umożliwia eksperymentowanie z różnymi modelami draftowymi, wyświetla procent akceptowanych tokenów draftowych i działa w interfejsie Chat UI oraz API.