LLM - eiichiromomma/CVMLAB GitHub Wiki
LLM
Ryzen AI 7 350 (64GB) とか Mac mini (M4 32GB)とかでのローカル運用
- FastFlowLM Ryzen AIでのNPU運用.お手軽省エネ利用はこっち.
- koboldcpp Ryzen AI 7 350でのVulkan運用
- MLX-LM Macでの運用
- MLX-VLM MacでVLM
Ryzen AI 7 350 (64GB) とか Mac mini (M4 32GB)とかでのローカル運用