vllm

如果想本地vllm跑个小模型，怎么升级比较好

问题描述：1774787690585568×372 79.2 KB请教一下现在这个市场还能卖多少钱，能卖到5K吗我想着换个5060ti的显卡，跑一下本地vllm的小模型来搞龙虾本地不知道是否可行或者佬们有什么建议不网友解答：--【壹