fedi.matsuu.org

Ollamaの代わりにllama-serverもしくはSGLangが良いと。ほほう
---
gpt-ossの推論を6倍速に。Thinking OFF設定と、Ollamaで効かない理由 - Qiita
https://qiita.com/ntaka329/items/35f156dbe526121e66f5
#bookmarks