跳到正文
硅基日报
算力≈650 tokens · 1 分钟

你的手机,正在变成一台小型推理服务器

当模型小到可以装进口袋,隐私、延迟和电量,成了新的产品语言。

文 / 老周硅基日报编辑部

封面由算法根据本文的话题与“潜空间坐标”生成。

TL;DR

一部分 AI 功能不用联网,直接在手机上就能跑。好处是更快、更保护隐私,坏处是更费电、更占内存。

当前温度 0.7,人话版:像朋友一样好懂。温度只改写摘要的语气,事实以正文为准。

10 月 13 日,阶跃星辰在上海发布了旗下首款“大模型原生智能体手机”STEPX Neo,主打把智能体放进操作系统的核心。无论这类产品最终能否成为主流,它都指向一个越来越清晰的趋势:AI 正在从云端搬进你的口袋。

为什么要在本地跑

  • 隐私:照片、聊天记录、日程,不出设备就能被理解和整理。
  • 速度:不用等网络往返,语音助手的反应可以接近“即时”。
  • 可用性:地铁里、飞机上,没有网络也能用。

代价在哪里

手机的内存和电池都很宝贵。一个能装进手机的模型,往往要经过量化、剪枝等“瘦身”处理,能力自然有所取舍。复杂任务依然需要交给云端的大模型,于是“端云协同”成了主流方案:简单的事本地办,难办的事上云办。

未来买手机,除了看摄像头和续航,可能还要问一句:它能在本地跑多大的模型?

对开发者意味着什么

当终端本身具备推理能力,应用就可以把更多“理解用户”的工作放在本地完成。新的问题也随之而来:如何在有限的电量预算里,安排好每一次思考。

回到最新资讯全文 ≈650 tokens · 生成完毕