随着腾讯、阿里、字节等行业巨头发力办公智能体赛道，另一条基于本地大模型的赛道也开始兴起。业内人士认为，随着云端大模型不断抬高智能上限，本地大模型的智能水平也持续提升，结合智能体正加速融入办公场景。不少企业用户出于隐私和保密，对于本地大模型具有刚性需求，这种趋势被硬件厂商和中小AI团队视为新的商业机遇。
本地大模型进入办公场景
9月初，北京大学科学智能学院孵化的元空AI发布自研本地大模型Boxer，以及基于此的AI办公平台和AI科研平台。记者在发布会现场看到，在一台40TOPS（每秒万亿次运算）算力的消费级PC上，对话延迟接近真人交流，运行内存占用约8GB。
据悉，Boxer本地大模型基于阿里千问的Qwen3.5-35B-A3B后训练而来。元空智能联合创始人宁鲲鹏表示，团队在2023年就发布了AI产品ChatExcel，已积累数百万用户。
经过“后训练”强化的中小参数大模型正加速进入办公场景。近日，原点星辉发布本地大模型StartLux-V1.0-27B-Preview，它以阿里千问Qwen3.6-27B为基座模型，面向工具调用与通用智能体场景进行后训练加强。在工信部中国信息通信研究院可信AI大模型基准测试的MCP（模型上下文协议）专项测试中，StartLux综合性能超越多款千亿参数大模型。
原点星辉CTO郭权玮表示，当AI工作得越来越深，隐私、成本和持续运行就会从附加条件变为真正影响体验的核心问题。本地不再只是一个部署选择，而会成为下一代智能越来越自然的形态。
小模型打开办公新空间
与云端大模型相比，更小的模型为何能够承担更多的办公任务？
一方面，企业越发注重AI安全。元空智能创始人逄大嵬认为，企业级AI的竞争不在于模型大小，在于数据是否出设备、成本、使用稳定性，而这正是本地大模型和端侧AI的产业机会。
中国惠普副总裁、个人信息产品事业部总经理周信宏告诉记者，对于企业用户而言，使用云端大模型的最大风险是企业数据、经验被“蒸馏”。
另一方面，本地大模型的智能化水平正在快速崛起。郭权玮告诉记者，云端大模型在继续推高智能上限，本地大模型则在享受三条技术曲线的红利——大模型本身越来越高效、消费级硬件越来越强、推理和智能体系统越来越成熟。
逄大嵬也认为，从生产力与成本平衡维度评估，20B至100B参数的本地大模型是当前最适合规模化交付的区间，可支撑长链路智能体任务，如今35B大模型的智能化水平已经可以媲美前两年的一线大模型。
据悉，目前能运行20B至100B大模型的电脑，价格区间在1万元至6万元，这也被很多厂商视为AI硬件的新机遇。
周信宏告诉记者，受内存、CPU等核心部件涨价影响，目前低价PC市场持续萎缩。惠普在大中华区持续发力AI端侧领域布局，PC营收保持两位数增长，其核心驱动力正是产品单价持续提升。
从“能用”到“好用”仍需闯关
尽管供需双方都很看好本地大模型及其应用，但“办公”场景更看重如何“干活”。
商业与技术洞察公司Gartner管理副总裁孙鑫认为，中小参数模型虽然降低了本地推理门槛，但企业采用的门槛仍在于数据与应用执行。一个智能体能否按权限找到正确版本的文件、调用业务系统、在失败后恢复，比能装下多少参数更能决定其办公价值。此外，评估成本也要包含硬件、维护和人工返工。
本地大模型无需“包打天下”。郭权玮表示，在应用场景方面，更看好那些高频、长期，以及用户数据与工具深度绑定的工作场景。比如，长期整理电脑中的文件和邮件、梳理企业内部知识和流程、开展科研资料分析。这些任务真正需要的不是偶尔调用一次模型，而是AI能否一直助力工作。
在AI巨头发力通用办公市场的同时，专业办公场景也值得关注。逄大嵬表示，公司将优先深耕低容错率的垂直行业场景，例如，精密制造、医疗、科研、财务等场景，持续沉淀高价值行业能力与数据，由此构建高替换成本的产品壁垒。
新宝配资提示：文章来自网络，不代表本站观点。
