跳到正文

技术方向

端侧 AI 最新动态

直接跑在手机、电脑等设备上的 AI:小模型、在本机运行模型的工具与端侧芯片。

4 条精选近 30 天 4 条共收录 5 条

更新

端侧 AI的精选

今天11月12日周四第 1–4 条
  1. V2EX · 推广与福利节点67分

    开源技能 chalkpress-skill:一句话让 AI Agent 把网课视频转成本地讲义 PDF

    作者在 V2EX 分享开源技能 chalkpress-skill,用户给 Agent 一句话指令即可把网课视频转成讲义 PDF,每页一个关键帧加该时间窗字幕,文字层可检索可复制。

    AI 精算点评
    剖析作者开源 chalkpress-skill(Apache-2.0),用户只需给 ChatGPT / Claude Code 等能执行命令的 Agent 发一句话,管线便会自动安装依赖,并用 ffmpeg 做场景检测抓关键帧、用 Whisper 在本地转写、校对字幕(内置软考 241 条术语,如「坚偶校验」→「奇偶校验」)、排成横版 A4 PDF,还可选在首页附上带星级考点的学习笔记。管线本身零 LLM、零 API Key,校对与写笔记全靠 Agent 自身智能,视频不上传云端。暗坑在于:需自备 ffmpeg 与 Whisper 本地环境与算力,转写耗时取决于本机;术语包目前只有软考,其他考试领域需自行 PR JSON。
    风评这是作者本人在 V2EX 推广自荐节点发的自荐帖,并非第三方转载;GitHub 仓库 luolin1024/chalkpress-skill 创建于 2026-11-10,Star、Fork、Issue 均为 0,公开网页检索不到任何使用口碑,属典型新冒头个人项目,暂无套壳或跑路迹象,但也无社区背书。
    比价项目完全免费开源,无订阅与 API 费用,长期成本为零,优于按分钟计费的云端视频转写与讲义 SaaS,以及要求自配 key 的套壳工具;站内同类开源参照 OpenDataLoader(PDF→Markdown,80 分)与 Unlimited-OCR(76 分)均已具备一定体量与基准成绩,而本项目只覆盖「视频→讲义 PDF」这一细分场景,范围窄但痛点精准。
    结论值得零成本试跑的自用工具:先拿一节网课小样验证抽帧与字幕时间窗是否对齐、Whisper 中文识别质量如何,再决定是否批量处理;因仓库极新且仅一人维护,不宜作为唯一备份方案,而本地化处理恰好是它在涉密培训视频场景下的真实优势。
11月10日周二
  1. X (Twitter) 羊毛与Bug价实时监控78分

    开源助手 PocketPal 可在手机本地离线运行 GGUF 模型并集成 Whisper、Kokoro 语音

    开源手机端 AI 助手 PocketPal 可在手机本地直接加载运行 GGUF 模型,无需联网。它同时集成 Whisper 本地语音识别与 Kokoro 离线 TTS,免注册免订阅,飞行模式下也能完整对话。

    AI 精算点评
    剖析原帖核心是免费开源手机端 AI 助手:本机加载 GGUF 模型,集成 Whisper 本地语音识别与 Kokoro 离线 TTS,免注册、免订阅、无需联网,飞行模式可对话。显性门槛是需自行从 Hugging Face 下载模型;隐性限制是手机算力仅适合小模型,可能存在存储、发热、速度与侧载/商店区域问题。未见 AFF 返佣或收费陷阱。
    风评GitHub 仓库核验为 MIT、约 9202 Star、1069 Fork、126 Open Issues,创建于 2024-08-25 且 2026-11-11 仍有推送,维护活跃度尚可;公开网页暂未检出大规模社区口碑,也无跑路、超售、封号等前科证据。属小众但真实开源项目,仍需自行核验应用签名、模型许可与隐私实现。
    比价横向看同品类开源神器站内参照多在 55~80 分:SSHYard 80 分、Claude-Code-Game-Studios 68 分、Craft Anything 65 分。PocketPal 免费、MIT、9.2k Star,且把 GGUF+Whisper+Kokoro 三件套做到手机本地,实用免费价值突出;纵向无历史价格,因完全免费,无折扣溢价,真实成本是手机算力、存储与下载模型时间。
    结论归入「真香好价可锁单」档的免费实用型:值得安装试用,尤其适合离线隐私场景。提醒先用 Qwen 小模型实测流畅度、发热与耗电,核验应用商店来源/签名、GGUF 模型许可证及退款续费规则(本项目无订阅,仍需防第三方套壳收费)。
  2. X (Twitter) 羊毛与Bug价实时监控78分

    DIYgod 开源 Pinky:让 Claude Code 等 MCP Agent 控制 iOS 与 Android 真机

    DIYgod 开源项目 Pinky(Apache-2.0),让 Claude Code、Cursor、Claude Desktop、Codex 等任意 MCP Agent 控制 iOS 17.4+ 与 Android 10~17 手机。

    AI 精算点评
    剖析Apache-2.0 完全开源免费:跨 macOS/Windows/Linux 控制 iOS 17.4+ 与 Android 10~17 真机;原生应用 14MB、内存约 70MB(非 Electron);一键接入 Claude Code/Cursor/Claude Desktop/Codex 等 MCP Agent;带人类在环风控,付款/下单/发消息/删除自动拦截待确认。无 AFF、无付费墙,门槛只是自备手机与装包;仓库 1767 Star、21 个 open issue,属 11-06 新建的 5 天新项目。
    风评作者 DIYgod 是 RSSHub/APlayer/xLog 作者,个人信誉与技术口碑良好,无跑路或收费割韭菜前科;但项目极新,V2EX/LINUX DO/NodeSeek/Reddit 暂未检出成规模实测口碑。GitHub Issue 已暴露右键退出后进程残留、华为机型搜不到设备、新 iOS 版本适配请求等真实缺陷。注:本帖为开源软件,VPS 情报台数据(vps789 延迟丢包等)不适用。
    比价横向看,Agent 控机同类方案多为闭源云真机按小时计费或企业级设备农场,成本高且数据出域;Pinky 用自备真机零成本、数据本地。站内同类开源 Agent 项目近期得分集中在 42~68 分(dsh-invest-radar 63、Claude-Code-Game-Studios 68、ponytail 42),Pinky 以「真机+安全拦截+轻量原生」差异化,免费即天花板,无历史价格可对比。
    结论归入「真香好价可锁单」:零成本开源,可放心拉下来试用。但项目仅 5 天、issue 未收敛,建议先用备用机/测试机跑通 MCP 链路,别直接绑支付类 App 上主力机;入手前看 README 权限模型与 Release 更新频率,确认 Android 虚拟屏与拦截逻辑是否符合预期。
  3. X (Twitter) 羊毛与Bug价实时监控76分

    Cactus Compute 开源 22MB 端侧视觉模型 Mirage

    Cactus Compute 开源超轻量端侧视觉模型 Mirage,5130 万参数经 2-bit 量化后权重约 22MB,可通过 pip install cactus-compute 安装。在三星 S26 的手机 NPU 上端到端推理约需 74 毫秒,单次前向传播即可完成看图描述、OCR 提取、物体定位、实例抠图与空间结构分析,全程无需联网。

    AI 精算点评
    剖析帖子核心是 Cactus Compute 开源 Mirage:5130 万参数、2-bit 量化后约 22MB,pip install cactus-compute 安装,调用 describe("photo.jpg") 输出结构化结果;单次前向完成看图描述、OCR、物体定位、实例抠图与空间分析,手机 NPU 约 74ms 且离线。无 AFF 与付费门槛,但成绩为团队自测,仅 7 种语言,能力有限,需 Python 环境。
    风评公开网页暂未检出 Cactus Compute 的大规模口碑记录;X 原帖赞 2、转 0、回复 6,传播较弱。V2EX、LINUX DO、NodeSeek、Reddit 未见成熟评测,GitHub 仓库与 pip 包背景待核。非 VPS 类项目,无跑路超售问题,但属新冒头项目,自测基准与真实设备兼容性需社区复现。
    比价项目免费开源,无历史价格与溢价问题。横向对比 SmolVLM、Qwen2-VL、MobileCLIP 等端侧视觉方案,22MB 体量是绝对优势,但精度、语言覆盖与复杂场景能力弱于数百 MB 级模型;纵向无付费折扣可算。站内同品类高分开源项目多在 65~68 分,本项零成本且部署极简,实用价值可略高。
    结论定性为「真香好价可锁单」中的实用免费开源可试:零成本、离线隐私好、部署极简,适合端侧原型与轻量 OCR/描述。上线前需核实 GitHub 仓库、pip 包来源、许可证及三星 S26 外机型实测;勿期待大模型级精度。