2026/5/23
Lociant是怎么来的
半个多月从零搞了个Android AI感知节点
搞大创项目,AI+婴儿床,购入一块 RK3588。配了一天环境,调了一天LLM,风扇嗡嗡响。弄完了一看——这不就是丐版手机吗?手机现成的什么都有,还不用额外供电。那直接在手机上搞不就行了。
第一个版本 vibe-coding 了个 JSON 状态机,把拍照检测推理串起来。虽然能用,但加个功能就要改代码重编,换个手机就会出问题。并且手机跑 7B 的小模型出第一个字都得等十几秒,完全本地实时 LLM 效果还不如豆包。
后来慢慢摸索,发现手机不适合直接做“脑子”,适合做“眼睛”。项目方向慢慢缩成了感知节点——拍照,跑视觉模型,结果丢 API 给 PC agent。决策让 agent 做,手机只管看。
现在的 Lociant 就是一个 Android 应用,后台跑 Runtime,走 MCP 跟 PC 通信。有很多坑。前台保活在国产 ROM 上基本无解。MNN 的 LLM 性能有的机型好有的烂。
不过我还没想好它到底能干嘛,起码婴儿床项目能用上。倒是最近腾讯出了个 Marvis,看起来很像我想做但没做完的东西。