fedi.matsuu.org

大規模言語モデルを動作させる時に必要なVRAMの使用量を推定してくれる「VRAM Estimator」
https://gigazine.net/news/20231227-vram-estimator/
#ReadItLater