自从 ChatGPT 问世以后,LLM 相关技术对人工智能技术领域形成了冲击性的影响,许多围绕 LLM 的技术架构的发展也一直在如火如荼的展开,比如 RAG 和 AI-Agent,以及时下比较火爆的 Model Context Protocol (MCP)[1]。在展开之前结合行业现实,笔者认为解释清楚 LLM Inference ...
2025 年 10月29日-- 负责支持和保护网络生活的云服务提供商阿卡迈技术公司(Akamai Technologies, Inc.,以下简称:Akamai)(NASDAQ:AKAM)宣布推出Akamai Inference Cloud,该平台通过将推理从核心数据中心扩展到互联网边缘,重新定义了应用 AI 的场景与方式。 Akamai Inference ...
control as inference已经提出很久很久了,也并非RL的专利,甚至从某种意义上否定了RL在control这个问题下的地位。 个人看来这个框架有两个好处: 首先概率模型是一套低门槛的构造弱拓扑的工具。所谓拓扑,就是“靠近”、“相似”、“相同”的标准,强拓扑就是用范数来检查空间中两元素的距离,而弱拓扑就是用线性泛函或所谓test ...