NEWS
Xinference 0.7.0 至 0.8.0 版本功能全面升级!
未来速度团队 2024.01.15

自 0.7.0 版本起,Xinference 进行了大量的功能优化和增强,与此同时,模型优化和用户体验也在持续得到提升,我们对一些异常问题进行了修复, 本文为你梳理 0.7.0 版本至 0.8.0 版本中,你最值得关注的 4 个 Xinference 的新功能。

函数调用(Function calling)

我们在 0.7.2 版本中首次引入了 Function calling 函数调用的功能,增加了对 Qwen、ChatGLM 和 gorilla-openfunctions-v1 模型的函数调用支持。

从 1.8B 到 MOE:不断更新的模型库

0.7.2 加入了 qwen-1.8b 模型来满足移动场景需求,而在 0.7.3 版本,我们新增 Mixtral-8x7B-v0.1, deepseek, Mistral v0.2, OpenHermes,Qwen GGUF 模型支持。

迈向多模态 Qwen-VL

在 0.7.4 版本,我们首次引入了多模态模型——qwen-vl-chat,支持图片和文本双向输入输出,并且在随后的版本中我们加入了多模态的聊天功能。

Docker 一键部署

终于在 0.7.5 中,Xinference 可以通过 docker 一键启动,有力的提高了云原生环境下的启动和使用体验。

🎉

持续的创新和优化,不断的版本更新,我们对让 Xinference 成为最优质的产品充满期待。我们欢迎各位用户体验新功能,并期待收到您的宝贵反馈。


Copyright © 2023 杭州未来速度科技有限公司