matsuu
.
@matsuu,
Ollama、5日前にリリースされた0.11.9でパフォーマンス改善があったそうで。RTX4090で約7%スピードアップ。わいわい
---
ollama 0.11.9 Introducing A Nice CPU/GPU Performance Optimization - Phoronix
https://www.phoronix.com/news/ollama-0.11.9-More-Performance
#bookmarks