AI资讯新闻榜单内容搜索-端侧模型

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
搜索: 端侧模型
端侧 AI 迎来「高智能」时刻,无界方舟开源端侧模型Edge0-145B及统一推理引擎

端侧 AI 迎来「高智能」时刻,无界方舟开源端侧模型Edge0-145B及统一推理引擎

端侧 AI 迎来「高智能」时刻,无界方舟开源端侧模型Edge0-145B及统一推理引擎

无界方舟先后开源Edge0-35B与千亿参数端侧模型Edge0-145B及统一推理引擎,后者可在29GB内存的个人笔记本本地运行,并在多项评测中比肩主流云端模型。

来自主题: AI资讯
8968 点击    2026-11-13 17:11
2026硅谷AIE大会判断1:判断小模型的需求是刚需

2026硅谷AIE大会判断1:判断小模型的需求是刚需

2026硅谷AIE大会判断1:判断小模型的需求是刚需

11 月 11 日,旧金山 AI Engineer Code Summit(AIE CODE 2026)第二天,官方主题叫 System One:只做判断、不做生成的小模型。

来自主题: AI资讯
9291 点击    2026-11-13 10:17
两年内把GPT-6的智能装进手机!我们已经抵达端侧智能的「撞线前夜」

两年内把GPT-6的智能装进手机!我们已经抵达端侧智能的「撞线前夜」

两年内把GPT-6的智能装进手机!我们已经抵达端侧智能的「撞线前夜」

上世纪 40 年代,计算机还是占据一整个房间的庞然大物。它们体积庞大、造价高昂,只有少数科研机构和大型组织能够使用。那时,计算是一种昂贵而稀缺的资源。

来自主题: AI资讯
10020 点击    2026-11-10 09:25
苹果竟然在 Mac 里藏了个本地大模型,但 99% 的人都不知道

苹果竟然在 Mac 里藏了个本地大模型,但 99% 的人都不知道

苹果竟然在 Mac 里藏了个本地大模型,但 99% 的人都不知道

苹果在 macOS 27 预装的 fm 命令行中提供免费的 Apple Foundation Model 端侧模型,但中国大陆购买的 Mac 目前不支持 Apple 智能,仍无法调用。

来自主题: AI资讯
9693 点击    2026-10-30 22:03
30B大模型跑进手机,推理引擎开始自我进化

30B大模型跑进手机,推理引擎开始自我进化

30B大模型跑进手机,推理引擎开始自我进化

无量火科技与高通联合发布移动端解决方案,Ember推理引擎让未经额外改动的30B大模型在手机运行且质量无损,并将MoE与Dense模型内存占用分别降低80%和50%。

来自主题: AI资讯
8876 点击    2026-10-24 13:43
提速10.7倍!这个端侧推理引擎一开源,机器人本体跑大模型终于不卡了

提速10.7倍!这个端侧推理引擎一开源,机器人本体跑大模型终于不卡了

提速10.7倍!这个端侧推理引擎一开源,机器人本体跑大模型终于不卡了

清华大学联合无问芯穹与上海交通大学开源了面向具身模型的端侧推理引擎APXInf,通过全栈优化在Thor芯片上将π0.5推理速度提高约10.7倍,并引入可由Agent执行的工程化流程以适配模型的持续迭代。

来自主题: AI资讯
9521 点击    2026-09-30 11:09
智能终端变成token工厂,这家公司要让AI真正被深度使用

智能终端变成token工厂,这家公司要让AI真正被深度使用

智能终端变成token工厂,这家公司要让AI真正被深度使用

斑马智能在2026云栖大会发布面向智能终端的全模态端侧大模型AutoOmni 2.0-23B-A3B,主张智能汽车是具身智能最大的中试场,端侧AI基础设施将决定AI能否在真实世界被真正深度使用。

来自主题: AI资讯
9328 点击    2026-09-25 10:12
大模型Scaling撞上成本墙:三星提出TrOPD新方法,把前沿智能塞进数亿终端

大模型Scaling撞上成本墙:三星提出TrOPD新方法,把前沿智能塞进数亿终端

大模型Scaling撞上成本墙:三星提出TrOPD新方法,把前沿智能塞进数亿终端

三星大模型团队联合牛津大学、北京大学提出TrOPD方法,通过信任域机制让端侧模型更稳定高效地继承大模型推理能力,在数学、代码、指令遵循、STEM基准上全面超越现有OPD方法,为前沿智能以更低成本走向数亿终端提供新路径。

来自主题: AI技术研报
9020 点击    2026-09-18 15:48
「设备即环境」:这个北大系公司想告诉所有人,端侧模型才是未来

「设备即环境」:这个北大系公司想告诉所有人,端侧模型才是未来

「设备即环境」:这个北大系公司想告诉所有人,端侧模型才是未来

元空智能联合惠普发布端侧AI方案,推出涵盖27B稠密与35B-A3B稀疏版本的Boxer系列模型以及AI Work、AI Science两套Agent,主张"设备即环境"理念,强调原生端侧模型才是AI未来发展方向。

来自主题: AI资讯
9220 点击    2026-09-13 13:02