matsuu
.
@matsuu,
スマートフォンでローカルLLMを動作させるためのフレームワーク。iOSとAndroidどちらにも対応しておりスマホアプリに組み込むことができると。
---
GitHub - cactus-compute/cactus: Cross-platform framework for deploying LLM/VLM/TTS models locally on smartphones.
https://github.com/cactus-compute/cactus
#bookmarks