嗯,今天下午跟韩宇还有令思远对了一下部署的事情,就是说那个服务现在放在 Koib 上面,然后思远说能启动太慢了,他想换成 VLLM 自己起,然后我觉得吧,先别急,下周三跟 Priya 一起看一下 KV Cache 的命中率再说。