今天在北京参加了微软的 AI Day，这次活动偏 LLM 的商业化解决方案，不过也挺有意思，除了微软的技术黑带专家意外，还认识了各个行业的专家，可以从商业需求的角度思考 AI 的发展方向。
微软的 AI 产品最近主要发力点是 Azure AI 和 Copilot 系列，Azure AI 主打 ToB 的 AI 和算力解决方案，Copilot 则依托微软办公和 windows 系统去拓展生态。
从模型的角度看，微软 Phi-3B 的推出预示着 LLM 从 Cloud 走向 Cloud + Edge，模型规模也被定义为大、中、小三类，有消息透露，Apple 的 LLM 方案就是云端大模型 + 边端小模型的端云协同设计
根据参会的行业客户反馈：
- 目前使用 LLM 产品的技术门槛还有些高，如何让行业客户更容易上手是 LLM 落地的必要条件
- 云端服务（训练、微调）价格贵
- 本能排斥 CPU，毕竟前沿技术由 NVIDIA 引领，市场也紧跟 NV 技术节奏，向往 NV，也不容易被教育
- 商业化产品选择使用 NVIDIA, 国产硬件还处于实验和观望状态