微软警示前沿 AI 模型不可信：AI 智能体堪比内部威胁，推出 Guardian Agents 防护方案
IT之家 10 月 20 日消息，微软于当地时间周一推出了多项全新安全功能，旨在帮助企业抵御日益严峻的智能体带来的安全威胁。发布该产品之际，微软持续向企业警示人工智能与智能体存在的各类风险。 IT之家注意到，本次新增功能中最受关注的当属守护智能体（Guardian Agents），这项新功能用于监控企业内部正在使用的各类 AI 智能体。守护智能体隶属于感知项目（Project Perception），感知项目是微软在 6 月推出的产品。 感知项目是微软针对 Anthropic 的 Mythos、Fable 等强大黑客模型，以及 OpenAI 的安全漏洞扫描系统破晓（Daybreak）所给出的应对方案。感知项目最初上线了三类智能体：扮演黑客角色实施攻击的红队智能体，负责侦测红队攻击、评估漏洞的蓝队智能体，以及专门修复漏洞的绿队智能体。 该产品最初的设计前提是，AI 黑客会来自企业外部。但近期，微软首席执行官萨提亚 · 纳德拉（Sa...
来自IT之家 AI的《微软警示前沿 AI 模型不可信：AI 智能体堪比内部威胁，推出 Guardian Agents 防护方案》。重点看智能体工作流、模型能力与工程、产品发布。摘要提到：IT之家 10 月 20 日消息，微软于当地时间周一推出了多项全新安全功能，旨在帮助企业抵御日益严峻的智能体带来的安全威胁。发布该产品之际，微软持续向企业警示人工智能与智能体存在的各类风险。 IT之家注意到，本次新增功能中最受关注的当属守护智能体（Guardian Agents），这项新功能用于监控企业内部正在使用的各类 AI 智能体。守护智能体隶属于感知项目（Project Perception），感知项目是微软在 6 月推出的产品。 感知项目是微软针对 Anthropic 的 Mythos、Fable 等强大黑客模型，以及 OpenAI 的安全漏洞扫描系统破晓（Daybreak）所给出的应对方案。感知项目最初上线了三类智能体：扮演黑客角色实施攻击的红队智能体，负责侦测红队攻击、评估漏洞的蓝队智能体，以及专门修复漏洞的绿队智能体。 该产品最初的设计前提是，AI 黑客会来自企业外部。但近期，微软首席执行官萨提亚 · 纳德拉（Sa...
本站只提供摘要与原文入口。完整内容请阅读原文。
来源：IT之家 AI · ithome.com