你的GPU能跑Llama 2等大模型吗？用这个开源项目上手测一测

在算力为王的时代，你的 GPU 可以顺畅的运行大模型（LLM）吗？ 对于这一问题，很多人都难以给出确切的回答，不知该如何计算 GPU 内存。因为查看 GPU 可以处理哪些 LLM 并不像查看模型大小那么容易，在推理期间（KV 缓存）模型会占用大量内存，例...