matsuu
.
@matsuu,
実行ファイル1つあれば動くLLMの新しい配布形態。Cosmopolitan Libcを使ってるので1ファイルでありながらamd64/arm64のどちらでも動作。OSもmacOS/Win/Linux/*BSDに対応。LLM本体が大きいので細工部分はどうってことないの面白い
---
GitHub - Mozilla-Ocho/llamafile: Distribute and run LLMs with a single file.
https://github.com/Mozilla-Ocho/llamafile
#bookmarks