llm-echo 0.5 发布:模拟 token 用量统计纳入工具调用与推理 token
Simon Willison 发布调试插件 llm-echo 0.5,其模拟 token 用量统计现在会计入工具调用、系统提示与推理 token。该插件提供一个完全不调用 LLM 的「模型」,只把收到的提示词原样回显。示例运行 `llm -m echo 'hi there' -o thinking 1 --usage` 输出 2 input、24 output token。
Simon Willison 发布调试插件 llm-echo 0.5,其模拟 token 用量统计现在会计入工具调用、系统提示与推理 token。该插件提供一个完全不调用 LLM 的「模型」,只把收到的提示词原样回显。示例运行 `llm -m echo 'hi there' -o thinking 1 --usage` 输出 2 input、24 output token。
Latent Space 正在试播新节目 High Taste Testers,把旧金山午餐闲聊中的话题搬上节目,首期从 Dev Day 聊到最新模型与助手,并征集反馈。
Meta 发布 Muse Spark Open,这是一个 816B 总参数、42B 激活的 MoE 模型,支持 1M token 上下文和文本、图像、视频、音频输入,权重以自定义 Muse Model License 开放。
NVIDIA 在都柏林 AI in Science Summit 上加入欧盟委员会发起的 AI in Science Enablers Initiative,为欧洲科研社区提供加速工具、算力与培训支持。NVIDIA 已开放超 250 个模型、250 个数据集和 1400 多个开源项目,并推出免费开源课程平台。欧洲目前有 35 台超算在建,将服务超 300 万名研究人员。
NVIDIA 展示北欧地区在先进计算上的落地进展:瑞典 Sferical One 超级计算机采用两套 NVIDIA DGX SuperPOD、16 机架 DGX GB300 系统和 1,152 块 GPU。
Liquid AI 发布 LFM2.5-24B-A2B,这是一个 24B 总参数、每 token 仅 2B 激活参数的推理模型,面向端侧私有智能体,会先思考再作答并调用工具。
推荐理由:Liquid AI 公布 24B 总参数、2B 激活参数的端侧推理模型,并给出与更大 MoE 的逐项基准对比和本地部署方式。
Anthropic 发布报告称,Z.ai 于 8 月发布的开源模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。目前闭源模型能力仍领先,Artificial Analysis LLM 排行榜前八名均为闭源模型,但开源模型在开发进度上仅落后数月。开源模型支持者认为其能防止权力集中、降低使用成本,并允许研究者观察模型内部运作与思维链。
Google DeepMind 发布 EmbeddingGemma 2,将文本、图像、音频和视频映射到统一嵌入空间,采用 Apache 2.0 许可,参数量 740M。
推荐理由:原文给出 740M 参数、模块化编码器和端侧内存占用,读者可据此判断多模态嵌入在本地检索中的可行性。
Mistral 在慕尼黑开设新中心,组建专注 Physics AI 与工业 AI 的研究团队,并配备直接服务企业客户的应用工程师。该中心将与 BMW 合作碰撞仿真与工程 AI、与 Siemens Energy 合作工业 AI 应用,并与慕尼黑工业大学(TUM)共建汽车空气动力学数字孪生研究。Mistral 计划到 2030 年建成 1 吉瓦欧洲算力,其开放权重模型可在客户自有基础设施上运行。
Import AI 474 汇总了多项AI研究动态:Michael Levin 发表论文提出心智是来自柏拉图式模式空间的非物理模式,身体与机器只是其接口;Google 公布 Project Suncatcher 进展。
Mistral 宣布与 Mozilla 达成合作,Firefox 的 AI 浏览助手 Smart Window(beta)改由 Mistral 模型驱动,先在法国和北美上线,英国和德国预计今年晚些时候跟进。
Mistral 与 Cloudera 宣布合作,将 Mistral 模型集成进 Cloudera 混合数据平台,支持企业在私有云、公有云、本地及完全气隙环境中部署推理并保持完全控制。企业还可在受控环境内用自有数据训练定制模型,数据和由此产生的智能均归企业所有。Cloudera 平台承载 30 exabytes 客户自管数据。
Mistral 与 HUMAIN 宣布战略合作,覆盖 AI 基础设施、先进模型开发和区域 AI 解决方案部署,合作规模达数亿欧元。双方将优先推进网络安全与语音领域的模型本地化,并计划开发阿拉伯语表现强劲的前沿模型。Mistral 还将探索使用 HUMAIN 的数据中心基础设施,双方计划在沙特面向受监管行业制定联合市场策略。