在刚驱散的 CES 2025 展会上，数以万计件 AI 硬件家具印证了一个滴水不漏的行业趋势开云(中国)Kaiyun·官方网站 - 登录入口，那便是 AI 正以回山倒海之势从云霄走向咱们身边的每一个开荒，且一浪更比一浪高。

不错说，AI 不再是家具的加分项，而是家具力的基准线。

关于在硬件下足功夫的传统厂商来说，想把 AI 装进小小的末端开荒绝非易事。好在，AI 模子作事行业已逐渐分化出两条明晰门路：云霄 AI 与端侧 AI。

在前者领域，以 OpenAI 为代表的厂商早已为内行所熟知，而谈到后者，有一家公司的身照畸形看管——面壁智能。他们从一驱动就押注端侧 AI 门路，如今也已成为这个领域不行淡薄的垂危玩家。

今天，面壁智能也弘扬发布了一款新模子 MiniCPM-o 2.6。

仅 8B 的参数的它能像东谈主一样看视频、听声息、读笔墨，还能说会谈。而且，它的反应快得跟东谈主类一样，险些莫得少许卡顿。用更平凡的话说，它能像东谈主一样用眼睛看、用耳朵听、用嘴巴说，用大脑念念考。

MiniCPM-o 2.6开源地址：

GitHub🔗 https://github.com/OpenBMB/MiniCPM-o

Huggingface🔗 ：https://huggingface.co/openbmb/MiniCPM-o-2_6

真视频，不是相片大模子

当咱们说 MiniCPM-o 2.6 是「真视频大模子」时，这可不是一句空论。行动全球首个达到 GPT-4o 水平的腹地 AI，它展现出了超越云霄模子的全目的感知技艺。

在官方演示 demo 中，玩起「三仙归洞」游戏时，它能在不雅众发问前就跟踪小球的位置；进行挂牵卡牌游戏时，它又能准确记着每张牌的图案和位置。

比拟于市集上有些声称撑捏及时流式视频认知的模子或家具，MiniCPM-o 2.6 野蛮感知用户发问之前的画面和声息，真听真看真感受，也更靠近东谈主眼的当然视觉交互。

这种捏续不雅察、及时认知的技艺，恰是其他相片大模子难以企及的。

再说说声息，MiniCPM-o 2.6 不光能听懂东谈主话，还能别离除东谈主声除外的布景音，比如撕纸、倒水、金属碰撞等声息。而这少许连 GPT-4o 也作念不到。

相似一句「你好」，用不同的口吻说出来，可能是温雅的请安，也可能是冷淡的搪塞。

东谈主与 AI 交流也该这样当然才对。

传统的 AI 模子处理声息有点像另一种款式的「翻译」，先把声息造成笔墨，再把笔墨变回声息。这样一来，言语东谈主的口音、感情这些好意思妙的脾气就王人丢失了。

但 MiniCPM-o 2.6 不一样。

它就像东谈主耳朵一样，能奏凯捕捉和认知声息中的多样细节。不仅如斯，它还能左证需要调度声息的情谊和立场，以致不错师法特定的声息，或左证形容创造全新的声息。

MiniCPM-o 2.6 现实中优秀的阐明也在基准测试榜单上也有很好的量化，一举收货音视听「铁东谈主三项」全 SOTA：

MiniCPM-o 2.6 取得及时流式全模态开源模子 SOTA，性能并列代表全球最高水平的 GPT-4o、Claude-3.5-Sonnet；在语音方面，取得认知、生成开源双 SOTA，问鼎最强开源语音通用模子；在一贯上风突显的视觉领域，稳坐最强端侧视觉通用模子。

在及时流式视频认知技艺的代表榜单 StreamingBench上，MiniCPM-o 2.6 性能相似并列 GPT-4o、Claude 3.5 Somnnet。值得珍贵的是，GPT-4o API 无法同期输入语音和视频，当今定量评测输入文本和视频。

在语音认知方面，超越 Qwen2-Audio 7B，已毕通用模子开源 SOTA（包括 ASR、语音形容等任务）；在语音生成方面，MiniCPM-o 2.6 超越 GLM-4-Voice 9B，已毕通用模子开源 SOTA。

从「能用」到「好用」，面壁走出了我方的路

MiniCPM-o 2.6 的面世离不开其在模子压缩、硬件适配和全模态流式架构等方面的技能冲突。

 端到端全模态流式架构：基于 MiniCPM 3.0 的 4B 模子构建，通过模块化瞎想已毕视觉、语音的结伴处理。汲取端到端容貌献媚各模块，确保多模态信息的无损传递，擢升生成内容的当然度。 低延迟模态并发技能：立异汲取时候复用技能，将输入信号分割为期间切片并行处理。通过智能语义判断用户输入阻抑时机，灵验缩小系统反映延迟。端到端全模态流式学习：基于语言活动表面，模子不仅仅省略处理信息，而是认知言语东谈主的社会意图。通过多模态环境学习和变装束演，已毕更高等的语义认知，为畴前具身机器东谈主期骗奠定基础。

推行上，当咱们把眼神从这些亮眼的技能效果转向到端侧模子的推走运行环境时，不得不面对一个客不雅现实。末端开荒上的模子部署依旧濒临着内存、功耗、算力三座大山。

苹果在其论文《LLM in a flash》中指出，70 亿半精度参数的语言模子，扫数加载进末端需要卓绝 14GB 的 DRAM 空间；Meta 在其 MobileLLM 模子论文中指出，一个约有 5000 焦耳满电能量的 iPhone，仅撑捏 7B 模子在 10 tokens /秒的 AI 生成速度下对话不及 2 小时。

为了把一头大象装进雪柜，手机芯片厂商加快鼓动 AI 芯片研发， 在先进制程、内存容量及带宽、CPU 和 GPU 性能上发力。手机品牌商也将配备更高性能的电板、散热元器件，擢升举座末端硬件技艺，更好地撑捏 AI 模子。

但是，硬件的擢升仅仅处罚有策画的一部分，真确的瓶颈在于怎么用更少的参数承载更多的智能。。

面壁团队的商讨标明，跟着数据-算力-算法的协同跨越，更少的参数就能已毕同等智能水平。例如来说，2020 年需要 1750 亿参数的 GPT-3 所具备的技艺，到 2024 年 2 月仅需 24 亿参数就能已毕。

基于这一发现，面壁团队早在昨年就提倡了大模子密度定律（Densing Law）。

模子技艺密度随期间呈指数级增长，已毕调换技艺的模子参数每 3.3 个月（约100天)下落一半 ，而且模子推理支拨随期间指数级下落，以及模子考研支拨随期间飞速下落。

模子高效压缩，最终适配末端硬件，由此激勉的行业跨越也水到渠成。

销耗电子下一个拐点的到来，不再是省略的硬件升级，是从底层逻辑上转换了家具的使用容貌和用户体验，这也为市集带来了新的机遇和增长点。

销耗者对端侧 AI 家具的需求不停增多，无礼为更智能、更苟简的家具支付更高的价钱，这将促使企业加大在端侧 AI 技能研发和家具立异方面的参加。

据 IDC 展望，2024 年中国末端开荒市蚁集，将有卓绝半数的开荒在硬件层面具备针对 AI 料到任务的算力基础，至 2027 年，这一比例将进一步攀升至接近 80%。

在 CES 2025 展会上，咱们曾经经看到，端侧模子与硬件的交融催生了 AIPC、AIiPhone、AI 智能眼镜、AI 陪同类玩物等在内的一系列电子家具。

面壁智能的发展轨迹也印证了这一趋势。

仅在昨年下半年，面壁智能 MiniCPM 端侧模子加快落地，先后与华为云、加快进化机器东谈主、大象机器东谈主、梧桐科技、长城汽车、联发科技、百度智能云、英特尔建立互助干系，业务疆城延长至智能座舱，机器东谈主、端云协同等多个领域。

面壁智能 CEO 李大海在接受 APPSO 的采访时示意，MiniCPM-o 2.6 将重心关注具身化属性较强的开荒。当今，面壁智能曾经与东谈主形机器东谈主厂商加快进化建立了深度互助干系。

在他看来，这款全模态端侧模子野蛮完善机器东谈主的「大脑」功能，为机器东谈主的本色系统提供关节的技能撑捏，也期待野蛮与更多机器东谈主制造商、汽车和手机等具备具身化属性的开荒厂商张开互助。

纪念 MiniCPM 的发展史，从第一代 MiniCPM 1.0 旗舰端侧模子发布，迭代至 MiniCPM 3.0， 迎来端侧 ChatGPT 时刻。 MiniCPM 弥远践行「以小博大+高效低老本」的门路。

这沿途走来，面壁智能也弥远立于中国大模子开源的潮头之上。

自 2024 年 2 月发布以来，MiniCPM 系列端侧模子已累计下载卓绝 400 万次，取得 Hugging Face 2024 全球最受接待的中国模子。

AI 技能的普惠正在履历三个阶段的演进：先是让内行用得起，然后是用得方便，终末是用得满足。

而面壁智能正在加快这终末一公里的回荡开云(中国)Kaiyun·官方网站 - 登录入口。

　　声明：新浪网独家稿件，未经授权辞让转载。 -->