matsuu
.
@matsuu,
Ollama対抗のmacOS用ローカルLLMランタイム。CLIベースなのでOllamaと同様に使えるがMLX対応なのがメリットかな。あとWhisperKitにも対応してる。OpenAI互換APIを備える。brew install swamaでインストール可。
---
GitHub - Trans-N-ai/swama: High-performance MLX-based LLM inference engine for macOS with native Swift implementation
https://github.com/Trans-N-ai/swama
#bookmarks