技术方向
怎么把模型跑得更快更省钱：推理加速、显存与成本、服务部署与基础设施选型。
11 条精选近 30 天 9 条共收录 36 条
NVIDIA RTX Spark 笔记本现已开售，搭载 Blackwell RTX GPU 与 Grace CPU，最高 128GB 统一内存和 1 petaflop AI 算力，起售价 2399 美元。华硕、戴尔、惠普、联想、微软和微星首批推出相关机型，主打本地 AI、内容创作与游戏。NVIDIA 在柏林、北京、伊斯坦布尔、首尔、旧金山和台北六地举办零售上市庆祝活动，黄仁勋在柏林现场现身。
推荐理由：原文给出 RTX Spark 笔记本的规格、价格与上市渠道，读者可据此判断本地 AI 在便携设备上的落地条件。
Reflection AI 发布面向智能体编码与长周期任务的开源权重模型 Beam，总参数 501B、激活参数 23B，Reflection 称有效上下文长度为 100 万 token，权重以 Apache 2.0 许可在 Hugging Face 发布。
推荐理由：原文给出 Beam 的参数量、上下文长度与三种部署路径，可据此比较托管与自建推理的取舍。
IBM 发布 Granite Switch 4.1，提供 8B 和 30B 两个版本，在同一个托管端点内支持自然语言对话、通用与专用决策以及语音转文字任务。
推荐理由：原文说明了多个适配器如何共享同一基座与 KV cache，读者可据此判断多任务部署的显存与速度取舍。
NVIDIA 发布面向创作者、游戏玩家和 AI 智能体的 Windows PC 产品 RTX Spark，并在旧金山、柏林、台北、北京、伊斯坦布尔、首尔等地举办发布活动。
推荐理由：原文给出 RTX Spark 的定位与多家媒体实测反馈，读者可据此判断本地 AI 在 PC 上的落地形态。
微软研究院发布零知识虚拟机 Magnetar，可直接证明用 Rust、Go 或 C 编写的程序执行过程，在 15 个基准程序上平均比现有最快 zkVM 快 10 到 39 倍。
推荐理由：微软研究院梳理十余年零知识证明研究脉络，说明 Magnetar 如何在通用性、速度与后量子安全之间同时取得进展。
Latent Space 播客邀请 Dyna Robotics 联合创始人兼首席科学家 Jason Ma，讲解上月发布的 Dyna-2 世界动作模型及其后续 Dyna-2.1 机器人智能体。
推荐理由：Dyna 联合创始人复盘百万小时人类视频预训练与真实门店部署，解释机器人长时自主的瓶颈在数据与硬件。
微软研究院开源 Agent Lightning v1.0，这是一个约 3500 行代码的轻量智能体强化学习框架，提出 Harnessed Agentic RL 范式，让部署时使用的智能体 harness 直接参与训练，无需在训练框架内重写智能体。
推荐理由：微软研究院开源了约 3500 行的智能体强化学习框架，并给出用 6000 条样本训练编码智能体的完整流程与结果。
GitHub Security Lab 发布 Fuzzing Taskflow，这是一个面向 C/C++ 项目的自主模糊测试流水线，只需指向一个 GitHub 仓库，它就会自动识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness，还会对每个崩溃做分类并生成漏洞报告。
推荐理由：作者公开了自动化模糊测试流水线的架构与运行方式，读者可了解 LLM 智能体如何接手编写 harness、追踪覆盖率与崩溃分类。
微软研究院对移动机器人操作负载做了系统测量，发现把物理 AI 推理从机器人端侧 GPU 卸载到边缘或云端 GPU 可提升任务成功率并延长续航。
推荐理由：微软研究院系统测量了机器人端侧 GPU 推理的瓶颈，并给出把推理卸载到边缘或云端的工具链方案。
Mistral 帮助一家欧洲能源运营商把 4 万行 Fortran 77 水库模拟器代码迁移到 C++，并公开了其中的智能体工作流。团队先搭建数值对齐测试框架，用检查点比对迁移前后的输出，再用自定义解析器生成调用树，由上百个智能体借助 Mistral OCR 读取旧 PDF 文档并补全注释。
推荐理由：Mistral 公开了用智能体迁移 4 万行 Fortran 代码的完整流程，其中先建数值对齐测试、再分模块推进的做法可以迁移到其他遗留系统改造。
研究团队为 K-Search 演化式内核搜索框架新增 MLX 后端和结构化 CUDA-to-MLX 翻译层，让已有 CUDA 内核作为知识库迁移到 Apple Silicon。
推荐理由：读者可以看到 CUDA 优化经验如何被结构化翻译成 MLX 策略，以及翻译层对搜索结果的量化影响。