跳到正文

技术方向

多模态 最新动态

文本之外的能力:视觉理解、图文混合、音视频输入输出的模型与产品进展。

4 条精选近 30 天 4 条共收录 242 条

更新

多模态的精选

今天11月12日周四第 1–4 条
11月11日周三
  1. IT之家 AI80

    谷歌联合 Artificial Analysis 推出 MKA 基准测试:Gemini 4 Carbon 多模态知识工作测试获第二,任务成本仅为第一名六分之一

    IT之家 11 月 11 日消息,当地时间 11 月 10 日,谷歌宣布联合 AI 模型评测机构 Artificial Analysis 推出多模态知识智能体基准测试 MKA(Multimodal Knowledge Agent),用于评估 AI 智能体处理视觉复杂文件、完成现实世界知识工作任务的能力。 谷歌表示,其最新发布的 Gemini 4 Carbon 在该测试中取得了参测模型第二名的成绩,完成任务的平均成本仅为排名第一模型的约六分之一。 谷歌 DeepMind 高级产品经理 Rohan Doshi 和首席工程师 Ben Caine 介绍称,现有不少知识工作基准测试仅依赖文本即可完成,而现实工作往往涉及大量视觉信息。例如,建筑师需要交叉核对建筑蓝图,工程师需要分析工程示意图,专业人员还需要将不同来源的信息整理成演示文稿、报告和电子表格。 MKA 基准测试旨在评估 AI 智能体在这些复杂工作场景中的表现。谷歌与来自 10 个...

    推荐理由:来自IT之家 AI的《谷歌联合 Artificial Analysis 推出 MKA 基准测试:Gemini 4 Carbon 多模态知识工作测试获第二,任务成本仅为第一名六分之一》。重点看智能体工作流、模型能力与工程、评测与基准。摘要提到:IT之家 11 月 11 日消息,当地时间 11 月 10 日,谷歌宣布联合 AI 模型评测机构 Artificial Analysis 推出多模态知识智能体基准测试 MKA(Multimodal Knowledge Agent),用于评估 AI 智能体处理视觉复杂文件、完成现实世界知识工作任务的能力。 谷歌表示,其最新发布的 Gemini 4 Carbon 在该测试中取得了参测模型第二名的成绩,完成任务的平均成本仅为排名第一模型的约六分之一。 谷歌 DeepMind 高级产品经理 Rohan Doshi 和首席工程师 Ben Caine 介绍称,现有不少知识工作基准测试仅依赖文本即可完成,而现实工作往往涉及大量视觉信息。例如,建筑师需要交叉核对建筑蓝图,工程师需要分析工程示意图,专业人员还需要将不同来源的信息整理成演示文稿、报告和电子表格。 MKA 基准测试旨在评估 AI 智能体在这些复杂工作场景中的表现。谷歌与来自 10 个...

10月15日周四
  1. Apple Machine Learning Research83

    Selection-Based Structured Reasoning: Toward Efficient Multimodal Search Agents

    多模态代理在执行每个动作前通常生成自由形式推理。小型模型因模型容量有限,可能导致推理过程冗长,虽能提供少量有用指导,但会带来较高的推理成本。为解决此问题,我们引入基于选择的结构化推理(SSR),该框架将推理转化为选择而非开放式生成。SSR将重复的高层推理表示为预定义、可复用的自然语言候选。在每一轮中,模型根据候选推理内容进行选择,以优化推理效率。

    推荐理由:请对照Apple Machine Learning Research原文,核对完整说明及适用条件。

10月14日周三
  1. Apple Machine Learning Research83

    The Design Space of Tri-Modal Masked Diffusion Models

    离散扩散模型作为自回归语言模型的有力替代方案,近期工作从文本、图像-文本和音频-文本数据中零初始化并微调基础单模态模型,实现多模态生成。与以往方法不同,我们首次提出三模态掩码扩散模型(MDM),并系统分析多模态缩放规律、模态混合比例、噪声调度、批大小效应,提供优化的推理采样默认值。批大小分析得出新颖的随机微分方程(SDE)...

    推荐理由:请对照Apple Machine Learning Research原文,核对完整说明及适用条件。