fedi.matsuu.org

mesh-llmだけでなく同様ツールのPetals, exoとの比較表あり。期待したい。
---
mesh-llm：余っているPCのGPUを束ねて巨大LLMを動かす分散推論の新アプローチ - Qiita
https://qiita.com/nogataka/items/d6776506848d08815be9
#bookmarks