Hugging Face Transformers是一个用于文本、计算机视觉、音频、视频和多模态模型的最先进机器学习模型定义框架，支持推理和训练。
LitServe是一个用于构建自定义推理引擎的AI工具，支持模型、智能体、多模态系统和RAG等应用
AI原生云加速AI训练微调推理优化GPU集群开源模型。