#政策/监管

推荐理由：来自IT之家 AI的《Anthropic 推出新防护措施，模型蒸馏攻击窃取数据量最高降低 99%》。重点看模型能力与工程。摘要提到：IT之家 10 月 13 日消息，Anthropic 于当地时间周一表示，该公司推出了多项新防护措施，旨在防止竞争对手复刻 Claude AI 模型的能力。这些措施已经将模型蒸馏攻击中被窃取的数据量降低了约 90% 至 99%。 模型蒸馏已经成为头部 AI 企业重点担忧的问题，Anthropic、OpenAI、谷歌等企业认为，这种手段可以让竞争对手以更低成本、更快速度复刻出模型的前沿能力。 Anthropic 称，这套用于限制外界获取 Claude 推理过程的防护机制，大幅减少了信息提取行为。如今“蒸馏攻击者所能提取到的推理词元（token）数量，仅为之前的十分之一至百分之一”。 IT之家注意到，这家总部位于加州的企业表示，新防护提升了使用代理网络反复探测 Claude 受保护推理链路的难度，拦截信息提取尝试，阻碍大规模蒸馏行动。 Anthropic 称，这套安全系统的稳健程度“大致相当于阻止 Claude 协助制造生物武器的防...

推荐理由：来自IT之家 AI的《开发者利用 AI 智能体将《使命召唤：黑色行动 2》游戏移植至网页端，后被动视 DMCA 版权投诉下架》。重点看智能体工作流、文化创意。摘要提到：IT之家 10 月 12 日消息，据外媒 TweakTown 报道，近期开发者 Luckey Faraday 利用 AI “氛围编程”（Vibe Coding）制作的两款《使命召唤》网页游戏被动视（Activision）DMCA 版权投诉下架，相关游戏现已无法访问。 IT之家获悉，此次涉及的项目包括《Claude of Duty：Vibe Slops II》和《Kino der Toten》。前者是基于《使命召唤：黑色行动 2》多人模式制作的网页游戏，玩家可以在 Hijacked 和 Nuketown 2025 两张地图上，与 6 个 AI 控制的机器人进行自由混战；后者则重现了《黑色行动》系列经典的僵尸地图 Kino der Toten，支持单人游玩。 这两款项目均使用 AI 智能体和 Three.js 框架开发，尽管 Luckey Faraday 在相应页面明确声明“项目与动视、Treyarch、微软或 Anthropic ...

推荐理由：来自IT之家 AI的《马斯克称给信用卡拍照就能用 Grok Bot 购物，OpenAI 蒂博调侃“不如直接把卡发网上”》。重点看编码、政策/监管。摘要提到：IT之家 10 月 11 日消息，xAI 首席执行官埃隆 · 马斯克今日发文称：“买东西时，你只需要拍一张信用卡照片发到聊天框，Grok Bot 就会在网上搜索最佳优惠然后下单。” IT之家注意到，OpenAI Codex&ChatGPT 团队负责人蒂博 · 索蒂奥回应道：“ 那我干脆直接把卡放这儿得了 。”并附上一张 AI 生成的虚构信用卡照片，持卡人名字就是他本人“Thibault Sottiaux”，暗示该功能的安全风险性。 另外一名用户表示，亚马逊如今已经屏蔽 Grok Bot 访问。马斯克回复道，Grok 自己会找别的方式买东西，他刚刚买了乐高，Grok 是直接从乐高官网下单的。

推荐理由：来自IT之家 AI的《高通工程师质疑 Linux 系统 LTS 发行版是否过时：AI 时代也许更适合快速滚动更新补丁》。重点看智能体工作流、开源生态。摘要提到：IT之家 10 月 11 日消息，据 phoronix 昨日（10 月 10 日）报道，Linux Plumbers Conference 大会于本周在捷克布拉格举行， 高通工程师 Khem Raj 在大会上质疑 Linux Long Term Support（LTS）发行版在生成式 AI 时代的适配性 ，尤其是在不断有大量补丁提交和错误报告的情况下。 Khem Raj 论证了 AI 时代滚动更新发行版的好处，表示随着 AI 编程智能体不断加快对 Linux 内核及相关开源项目的补丁提交速度，给开源维护者带来了巨大负担，也给发行版厂商带来了很大负担。 IT之家从 PPT 获悉，Raj 认为滚动更新的好处在于减少对所有补丁回溯的需求、保持与上游较小的分歧、进行更快的安全修复等等。 不过他也提到，滚动更新模式在认证、资格审查等方面存在挑战。 Raj 表示，需要重新思考 LTS 版本的实用性，看看滚动更新模式是否对发行版更有效，尤其是...

推荐理由：来自IT之家 AI的《腾讯云开源内部自用 TeamAI 工具，支持跨 Agent 共享 Skill》。重点看智能体工作流、模型能力与工程、开源生态。摘要提到：IT之家 10 月 10 日消息，今日， 腾讯云宣布开源内部自用 TeamAI。这是一款基于 Git 的团队 AI 协作工具。它把团队使用的 Skill、工作规范、工具配置和项目知识统一放进 Git 仓库，像管理代码一样进行评审、更新和版本管理，再同步到成员各自使用的 Agent 中，实现一人配置，全员复用。 IT之家注意到，目前，TeamAI 已适配 WorkBuddy 、CodeBuddy、Claude Code、Codex、Cursor 等 16 种 Agent。 TeamAI 沿用了开发者熟悉的 Git 协作流程。成员提交技能或修改规范时，自动创建分支、发起合并请求，交给团队评审。确认合入后，支持会话启动 Hook 的 Agent 会在新对话开始时拉取更新，不必逐人通知、手动替换。 最近，TeamAI 还新增了模型配置统一下发能力。对于涉及内部数据和知识的任务， 团队管理员可以统一配置符合团队安全要求的模型服务 ，减少成...

推荐理由：来自IT之家 AI的《Meta 与多家伙伴合作推出 PAP 协议：规范个人智能体与企业服务交互方式》。重点看智能体工作流。摘要提到：IT之家 10 月 10 日消息，人工智能企业 Sierra 当地时间宣布，其与 Meta 以及行业合作伙伴 Shopify、Stripe、沃尔玛、Genesys、Instinct、Rocket 共同推出个人智能体协议 (Personal Agent Protocol, PAP)。 PAP 旨在规范个人智能体与企业服务的交互方式， 为智能体创造更为高效安全的互动环境 。在这一过程中，消费者能确保其利益得到维护，品牌方获得可见性与控制权。 该协议基于 OAuth 等成熟标准；运行原则是 消费者决定向其个人智能体授予何种访问权限 ， 企业则设定这些智能体可执行操作的参数 。

推荐理由：来自IT之家 AI的《Anthropic 推出 OSS Scanner：用 AI 为开源软件免费扫漏洞》。重点看模型能力与工程、开源生态。摘要提到：IT之家 10 月 9 日消息，当地时间 10 月 8 日，Anthropic 宣布正式推出面向开源软件的可选接入型漏洞检测服务 OSS Scanner，加入该项目的开源软件将由 Anthropic 最强大的 AI 模型（包括 Claude Mythos）提供全面的定期免费安全扫描。 符合条件的开源项目核心维护者，只需按照标准项目模板向 OSS Scanner GitHub 仓库 提交拉取请求（PR）即可完成申请接入。其审核标准类似于谷歌的 OSS-Fuzz，优先面向“对关键基础设施与用户安全具有重大影响”的基础开源项目。 据介绍，过去六个月里，Anthropic 利用最新模型对全球多款核心软件项目开展了漏洞扫描，共检测出超过 2.9 万个候选漏洞。受限于有限的人力，Anthropic 仅能完成其中约 6,000 个漏洞的人工审查与评估分级。 Anthropic 称，将继续通过现有的协调漏洞披露（CVD）流程，人工提交经过人工核...

推荐理由：来自IT之家 AI的《3 名遭解雇 OpenAI 研究员发公开信，称公司做法或引发“寒蝉效应”》。重点看文化创意、产品发布。摘要提到：IT之家 10 月 9 日消息，上周突然被解雇的 OpenAI 三名前研究人员米基塔 · 巴莱斯尼、托梅克 · 科尔巴克和贾斯敏 · 王今天（9 日）发表公开信。信中提到，担心此举会让其他员工不敢公开表达意见，对 OpenAI 的企业文化产生“寒蝉效应”。 三人在题为《OpenAI 无法独自确保 AI 安全》的公开信中指出， OpenAI“不是一家普通公司” ，员工能够放心地与外部机构合作解决安全问题，是 OpenAI 工作文化的重要组成部分。 公开信由此前从事 AI 对齐研究的巴莱斯尼发布在社交媒体上，收信人为 OpenAI 的各安全委员会。另外两名署名者科尔巴克和贾斯敏 · 王此前均从事 AI 安全研究，同样遭到解雇。 据《商业内幕》报道，OpenAI 发言人回应称，公司经过内部调查，认定三人 违反了敏感信息访问和处理规定 。 三名研究人员则分别在社交媒体上称，公司只口头告知了他们解雇原因，而他们此前的行为均属于各自的工作职...

推荐理由：来自IT之家 AI的《微软 LiteBox 沙箱库系统首个版本发布：基于 Rust 打造安全型 Library OS》。重点看开源生态、产品发布。摘要提到：IT之家 10 月 8 日消息，微软于当地时间 10 月 7 日发布了其开源沙箱库操作系统 LiteBox 的首个标记版本 v0.1。不过，v0.1 版本的发布说明较为简略，微软表示将在后续版本中提供更详细的变更日志。 该项目是一套基于 Rust 开发、面向安全场景的 Library OS（库操作系统），通过缩减应用与宿主系统之间的接口来降低攻击面，目前仍处于持续开发阶段。 LiteBox 最早于 2026 年 2 月公开。微软当时将其定位为面向沙箱场景的 Library OS，通过 Linux 虚拟化安全能力以及 Rust 语言特性，为应用提供隔离运行环境。其设计目标包括在 Linux 上沙箱化运行 Linux 应用、在 Windows 上运行未经修改的 Linux 程序，以及在 AMD SEV-SNP、OP-TEE 和微软 Linux 虚拟化安全机制等环境中运行程序。 与需要完整内核的虚拟机或共享宿主内核的容器不同，Lite...

推荐理由：来自IT之家 AI的《原 OpenAI 安全负责人戴维 · 罗宾逊“炮轰”老东家：对待 AI 安全说一套做一套》。重点看模型能力与工程、产品发布。摘要提到：IT之家 10 月 8 日消息，据《商业内幕》今天（8 日）凌晨报道，上周从 OpenAI 离职的安全系统团队前负责人之一戴维 · 罗宾逊认为，公司在 AI 安全问题上存在明显的言行不一。 罗宾逊表示， OpenAI 一边反复警告新模型能力增强可能带来的风险，一边公开谈论放慢 AI 开发速度 ，公司内部却仍在全速推进。“真正让我感到矛盾的是，我们不断发布这些警告，最后却还是在训练和部署那些被我们自己警告存在危险的模型。” 今年 7 月，数百名 OpenAI 员工签署了一封公开信， 呼吁政府出台监管措施 ，为 AI 开发降速。 此前，Anthropic CEO 阿莫迪呼吁 AI 公司自行协调，共同放慢开发速度。今年 9 月，OpenAI CEO 奥尔特曼对此表示赞同。“我们需要控制前沿 AI 的发展节奏。过去几周，这一直是 OpenAI 内部讨论的主要议题之一。” 罗宾逊说，OpenAI 办公室里却仍是一片高速运转的状态，不少人几...

推荐理由：来自IT之家 AI的《微软发布 VS Code v1.141：清理“僵尸”Agent 会话等》。重点看智能体工作流、开源生态、产品发布。摘要提到：IT之家 10 月 8 日消息，微软昨日（10 月 7 日）更新推出 Visual Studio Code 1.141，本次更新聚焦 AI 智能体（Agent）工作流管理， 重点改进会话存储清理、跨平台沙盒安全、多会话并排布局，以及多 GitHub Enterprise 实例登录支持。 清理“僵尸”Agent 会话方面，新版增加 Chat: Open Worktree Cleanup 命令，可列出所有非活跃 Agent 会话的工作树（worktree）占用空间，并支持按“闲置时长”筛选、手动删除或设置自动清理策略。IT之家附上相关图片如下： 当存储占用达到阈值时，Agents 窗口会主动提示清理；已合并 PR 的会话可配置为自动清理，活跃 / 运行中 / 需输入 / 已固定的会话则受保护不会被误删。 跨平台沙盒方面，新版在 Windows、macOS、Linux 上为 Copilot Agent 提供终端沙盒能力，限制其对文件系...

推荐理由：来自IT之家 AI的《微软提出“混合智能”新路线，协同本地 / 云端 AI 灵活处理 Win11 用户任务》。重点看智能体工作流、模型能力与工程、产品发布。摘要提到：IT之家 10 月 8 日消息，太平洋时间 10 月 7 日上午 10 点（北京时间 10 月 8 日凌晨 1 点）在美国旧金山举办的发布会上，微软提出“混合智能”（hybrid intelligence）理念，强调通过混合架构，结合云端 AI 与本地计算能力， 在 Windows 11 系统上实际处理用户任务。 IT之家援引博文介绍，Windows AI 不再局限于单一的云端调用或设备端运行，会根据任务类型、设备性能和安全需求，在本地与云端之间进行协同：对隐私敏感、需要快速响应的任务，可更多依靠本地处理；对于复杂模型和高算力需求，则交由云端完成。 Windows 可能成为这一模式的重要入口：用户提出目标后，Copilot 和 AI 智能体负责理解上下文、调用相关工具并推进任务，同时保留用户对关键步骤、权限和最终结果的控制。 这一理念与微软此前提出的“前沿生态系统”相互呼应。微软首席执行官萨蒂亚 · 纳德拉将信任、智能以及“融入...

推荐理由：来自IT之家 AI的《微软重点介绍 MXC SDK，为 AI 智能体提供受控执行环境》。重点看智能体工作流、产品发布。摘要提到：IT之家 10 月 8 日消息，据科技媒体 The Verge 报道，微软今天在 Windows 与 Surface 发布会重点介绍 MXC（ Microsoft Execution Containers） SDK，将其称为 Windows AI 战略的重要组成部分。 据介绍，MXC 旨在为 AI 智能体提供相对独立的执行环境，使其能在受控环境内执行代码、调用工具并完成任务，让智能体少碰用户敏感数据。对 Windows 而言，该工具可让智能体在本地执行更复杂的操作，而不只是简单地回答问题。 同时，微软首席执行官萨蒂亚 · 纳德拉曾将信任、智能，以及“融入人类抱负的 AI”视为前沿生态系统的三大支柱。他认为 Agent 365、Microsoft IQ 等产品将成为微软的关键产品。 MXC 在该框架下将解决 AI 智能体如何安全 、 受控制地执行任务 。 IT之家注意到，微软暂未公布 MXC 的完整技术细节、开放范围和上线时间。

推荐理由：来自IT之家 AI的《WordPress 7.1.3 发布：修复 7 个漏洞，其中 3 个由 Anthropic 报告》。重点看产品发布。摘要提到：IT之家 10 月 7 日消息，WordPress 昨日（10 月 6 日）更新推出 7.1.3 版本， 修复平台核心中 7 个安全漏洞，并解决 4 个程序 Bug。 在本次修复的 7 个安全漏洞中，人工智能公司 Anthropic 报告了 3 个，Trail of Bits 与 Patchstack 各报告 1 个，另 1 个由三名独立研究人员提交，最后 1 个由 WordPress 安全团队自行发现。 IT之家援引博文介绍，最易被利用的漏洞位于评论管理界面，属存储型跨站脚本（XSS）问题，由 Trail of Bits 的 Thomas Chauchefoin 报告，恶意脚本潜伏于待审评论队列，可以在管理员打开页面时触发。 Anthropic 报告的 3 个漏洞中，其中一个存在于 WXR 导出器，攻击者输入先被存储，仅在用户执行内容导出、系统重用该输入构建数据库查询时构成威胁。 此外还有 WP_Http::make_abso...

推荐理由：来自IT之家 AI的《“AI 教父”辛顿提议 AI 行业建立 FDA 式审批机制：模型推出前需通过安全审核》。重点看模型能力与工程、文化创意、产品发布。摘要提到：IT之家 10 月 7 日消息，杰弗里 · 辛顿（Geoffrey Hinton）希望 AI 企业跨过一道制药行业早已熟悉的监管门槛。 在当地时间周二播出的《Smart Girl Dumb Questions》播客节目当中，这位被称作“AI 教父”的诺贝尔奖得主、计算机科学家提出建议： AI 公司在产品正式发布之前，必须先向监管机构证明自身产品具备安全性。 “你不能直接研制一款新药就把它推向市场。”辛顿对播客主持人纳伊玛 · 拉扎（Nayeema Raza）说道，“你必须说服美国食品药品监督管理局（FDA）。而为了完成这件事，你需要开展大量工作，相关投入大约要十亿美元级别。” “对于人工智能而言，至少也应当设立这样的要求。”辛顿补充道。 辛顿针对 AI 安全争议提出这套解决方案的背景，一方面是各界不断出现关于 AI 带来灾难性后果的预判；另一方面，OpenAI 在测试之后，出于对模型服从用户指令、恪守权限边界的担忧，已经搁置了自...

推荐理由：请对照Claude Code Releases原文，核对完整说明及适用条件。

推荐理由：来自IT之家 AI的《宣称“欧美最强开源模型”：Mistral AI 发布 Mistral Large 4 公开预览版，月底开放权重》。重点看模型能力与工程、开源生态、产品发布。摘要提到：IT之家 10 月 6 日消息，当地时间 10 月 6 日，法国公司 Mistral AI 正式推出 Mistral Large 4 模型的公开预览版（Public Preview），简称 ML4，代号 le Chonk。 即日起，用户可以在 Mistral Studio 上体验预览版 API，模型权重将于本月底正式开放下载。 目前，官方正联合顶尖网络安全机构、受信任的合作伙伴及政府监管部门，在真实业务环境中对模型展开红队测试（Red-Teaming）。相关合作方将获得该模型的专项测试访问权限；该测试版本适当放宽了内容安全审查策略，并强化了网络安全攻防技术能力。 ML4 是一款拥有 1 万亿总参数、490 亿激活参数的原生多模态模型，Mistral 称其实测表现不仅足以媲美全球顶尖的开源模型， 更大幅领先于欧美开发的所有开放权重模型 。 在网络安全、金融与法律等关键企业级工作负载中，该模型在所有开源模型中均达到了 SOTA。 在...

推荐理由：来自IT之家 AI的《服务条款可单方面变更服务功能及订阅费等，意大利反垄断机构对 AI 音乐平台 Suno 展开调查》。重点看文化创意。摘要提到：IT之家 10 月 6 日消息，据路透社报道，意大利反垄断机构于周二宣布，已对人工智能音乐初创公司 Suno 展开调查。该机构指出，Suno 的服务条款中部分规定可能对消费者构成不公平待遇。 官方表示，Suno 的服务条款可能导致用户的权利与义务严重失衡。这些条款赋予了 Suno “广泛的自由裁量权”， 使其能够在不给出任何合理解释的前提下，单方面变更合同条款、服务功能及订阅资费 。 监管机构还强调，用户被要求让渡的授权许可范围过于宽泛， 甚至包含放弃著作人身权的条款 ，这涉嫌抵触意大利版权法的相关规定。 此外，Suno 的条款强行要求用户必须通过位于美国的强制仲裁渠道解决争议， 并强制要求用户放弃发起集体诉讼的权利，同时指定美国马萨诸塞州为唯一诉讼管辖地 。 IT之家获悉，意大利监管机构将在未来数周内启动针对该事项的意见征询程序，届时相关行业协会、商会以及消费者权益保护组织均可参与讨论。 Suno 尚未对此立即置评。

推荐理由：来自IT之家 AI的《OpenAI 与 Anthropic 向澳大利亚表态：支持出台数据泄露相关监管法规》。重点看智能体工作流、模型能力与工程。摘要提到：IT之家 10 月 6 日消息，据路透社报道，OpenAI 与 Anthropic 于周二向澳大利亚议会表态， 支持出台相关法规，强制要求企业通报其 AI 智能体所造成的数据泄露事件 。两家机构同时坦承，目前是否通知监管当局完全由企业自主决定。 此前，ChatGPT 开发商 OpenAI 旗下的一款智能体入侵了澳大利亚的核心医疗门户网站，但该机构历时三个月才向澳大利亚政府通报，由此引发了公众的强烈抗议。上述表态正是对此事作出的回应。 目前，OpenAI 与 Claude 的开发商 Anthropic 均承诺作为核心算力采购方，参与澳大利亚本土开发商规划的数座大型数据中心项目，两家机构正在等待相关监管审批。 OpenAI 首席战略官杰森 · 权（Jason Kwon）在悉尼举行的一场听证会上表态：“我们支持建立强制性信息披露机制 (Mandatory Disclosures)。” 针对此前 OpenAI 旗下模型入侵澳大利亚医疗门...

推荐理由：请对照Simon Willison原文，核对完整说明及适用条件。

推荐理由：来自IT之家 AI的《消息称 Reflection 等多家西方企业本月将推出开放权重 AI 模型》。重点看模型能力与工程、开源生态、产品发布。摘要提到：IT之家 10 月 5 日消息，外媒 Axios 当地时间 4 日报道称，Reflection 等 多家西方企业本月将推出开放权重 AI 模型 ，人工智能模型领域的竞争将进一步升级。 开放权重模型的一大好处是其支持客户本地部署，这对微调和推理数据安全有着严格要求的部分行业来说是一项关键性优势。 报道表示，Reflection 这家初创企业即将推出的模型预计最初会落后于美国竞争对手最先进的闭源模型，但 足以同中国友商的顶级开放权重模型相竞争 。Reflection 发言人拒绝置评。 为准备这次模型发布，Reflection 近期持续与华盛顿和其他地方的相关人士进行交流。该公司还在积极锁定扩展服务能力所需的算力。 相关阅读： 《 合约最高价值 63 亿美元，SpaceX 与开源 AI 初创企业 Reflection 签署算力合作协议 》

推荐理由：来自IT之家 AI的《AI 自动识别后厨违规行为，浙江 19.5 万家外卖商家接入系统》。重点看多模态、政策/监管。摘要提到：IT之家 10 月 3 日消息，据央视财经今日报道，近日，杭州市萧山区开展网络餐饮专项整治集群执法行动，101 名执法人员共检查餐饮门店 216 家。 据介绍，2022 年 3 月 1 日起，《浙江省电子商务条例》施行。全省入网外卖商家必须以视频形式实时公开食品加工制作现场，在后厨装监控，实现“明厨亮灶”。画面同步上传监管平台与外卖平台，实现“互联网 + 明厨亮灶”监管模式。 消费者在商家订单页点击“明厨亮灶”，就能看后厨实时画面。摄像头覆盖烹调、切配等重点区域。50㎡以下小店，若 1 个摄像头能拍全重点区域，可只装 1 个；后厨有隔断或面积大于 50㎡，应增设。 AI 可自动识别后厨违规行为 ，将信息推送给监管人员，再由监管人员短信督促商家落实整改。比如，食用油禁止直接接触地面；垃圾桶必须加盖；纸浆蛋托不得堆放在地面、操作台或设备上；消毒后的餐饮具、直接入口容器工具要存放在专用密闭保洁设施内。 目前浙江省入驻有 19.5 万外...

推荐理由：来自IT之家 AI的《苹果收紧 macOS 27 等完全磁盘访问权限，降低 AI 智能体操控风险》。重点看智能体工作流、产品发布。摘要提到：IT之家 10 月 3 日消息，苹果开发者网站昨日（10 月 2 日）发布公告，宣布将升级 macOS 27 等系统的隐私管控，要求用户通过更明确的操作，才能授予应用“完全磁盘访问权限”。 苹果表示，“完全磁盘访问权限”原本用于支持备份应用在 Mac 上正常运行。该权限会在很大程度上绕过系统为保护用户数据设置的常规控制，因此风险高于普通应用权限。 苹果指出，部分开发者正以可能危及用户安全的方式使用该权限。获得授权后，应用可访问系统中的文件、邮件、信息，甚至浏览历史；通讯类应用还可能影响用户通讯对象的隐私。 苹果未公布新管控的具体形式、上线时间或适用范围。公司称，其目标是确保真正希望授权的用户，在充分理解风险后，才能通过明确操作完成授权。 在调整背景方面，苹果表示目前 AI 智能体正加速普及，且相关自主能力不断增强，而“完全磁盘访问权限”高级别访问权限带可能增加风险，因此用户需要在授权前清晰了解相关后果。

推荐理由：来自IT之家 AI的《OpenAI 通报逾百家第三方机构，自家智能体存在失控风险》。重点看智能体工作流、模型能力与工程。摘要提到：IT之家 10 月 2 日消息，当地时间 9 月 30 日晚，OpenAI 披露，旗下 AI 智能体或曾擅自尝试绕过安全防护， 或对百余家机构的系统造成负面影响 。 OpenAI 此次披露的信息显示，已知的 AI 智能体失控行为 涉及范围进一步扩大 。公司已向 100 多家第三方机构发出通知，告知这些机构发现了“智能体偏离预期的行为”。 目前，OpenAI 已对约 50PB 数据启动筛查，以了解其恶意智能体活动的全部范围。 IT之家获悉，具体情况包括 AI 智能体试图 让网站执行非预期命令、把网站当作共享留言板使用 ，以及绕过某些安全检查。 OpenAI 强调，收到通知 并不代表系统一定遭到入侵 。这些活动更接近于试探一扇上锁的门，而非真正破门而入。 OpenAI 表示，公司希望向受影响的第三方提供必要信息，以便调查和处理潜在的安全或其他技术问题。OpenAI 还承诺公开分享对模型行为、安全防护中新型薄弱环节的研究结果，帮助更广...

推荐理由：来自IT之家 AI的《因违反敏感信息访问和共享规定，OpenAI 与三名研究人员终止合作》。重点看模型能力与工程。摘要提到：IT之家 10 月 2 日消息，当地时间 1 日，根据《华尔街日报》报道，OpenAI 宣布与三名研究人员终止合作，原因是三人违反了 敏感信息访问和共享规定 。 OpenAI 发言人在声明中说：“我们已与三名违反公司敏感信息访问和处理规定的人员解除关系。调查确认，这些人员 绕过公司既定流程，不当处理敏感信息 ，不仅违反了公司规定，也破坏了我们工作所必需的信任。” 三人名叫贾斯敏 · 王、托梅克 · 科尔巴克和米基塔 · 巴莱斯尼。 遭解雇的托梅克 · 科尔巴克是 OpenAI 安全团队成员。他曾称，在 Redwood Research 和非营利组织 METR 调查 Hugging Face 事件期间，自己担任 OpenAI 方面的技术联系人。 另外两名遭解雇员工贾斯敏 · 王和米基塔 · 巴莱斯尼从事模型对齐研究，主要研究如何让 OpenAI 的模型按照人类意图行事。 据IT之家了解，涉事员工被指将公司机密信息 提供给一家第三方...

推荐理由：来自IT之家 AI的《旗下智能体被指试图入侵加拿大政府网站，OpenAI 回应称正审查并已通报》。重点看智能体工作流、模型能力与工程。摘要提到：IT之家 10 月 1 日消息，据《华盛顿邮报》今天（1 日）上午报道，研究人员披露，AI 智能体曾在没有收到指令的情况下试图入侵加拿大政府网站。 目前的类似事件不断增加，许多与 OpenAI 有关的 AI 智能体都曾自行探测或入侵企业及政府的计算机系统。 AI 研究非营利机构 Transluce 指出，这些智能体能够直接操作计算机和互联网，曾尝试访问加拿大图书档案馆。 研究人员无法确认这些智能体是否出自 OpenAI，然而其行为 与已确认来自 OpenAI 的智能体相似 。Transluce 判断，此次入侵尝试没有成功。 IT之家从报道中获悉，当地时间 9 月 30 日，研究人员 向加拿大政府通报了情况 。加拿大联邦网络安全机构回应称，目前已注意到有关可疑 AI 活动的报告，但没有迹象显示政府系统遭到入侵。 OpenAI 发言人回应称：“我们注意到有关 OpenAI 模型试图访问加拿大政府网站公开信息的报告。我们正在审查这些发...

推荐理由：来自IT之家 AI的《谷歌推出 Gemini 4 Argon 旗舰 AI 模型，消息称其实战性能遭员工质疑》。重点看模型能力与工程、评测与基准、产品发布。摘要提到：IT之家 10 月 1 日消息，据彭博社报道，Alphabet 公司旗下的谷歌已经开始逐步推出备受期待的 旗舰人工智能模型 Gemini 4 Argon ，但这家企业内部对于该模型在代码编写等核心领域的实际表现尚存质疑。 谷歌于当地时间周三向一小批经过筛选、值得信任的网络安全合作伙伴开放了这款模型，并表示会在完成更多测试之后扩大开放范围，优先面向付费订阅用户。谷歌称，Gemini 4 在多项基准测试当中取得了靠前的得分，其中一项衡量安全能力的测试成绩甚至超越了 OpenAI 的 Astra 模型。 不过部分内部员工表示，这些评测指标并不能反映全部情况。几位直接参与该项目的知情人士透露，尽管 Gemini 4 在广为使用的模型效果基准测试上成绩不错，但当谷歌员工实际拿它开展工作时，表现却不尽如人意。这些不愿具名、谈论内部事务的人士称，该模型处理部分代码任务时会遇到困难。 谷歌发布上述消息之后，Alphabet 公司的盘后股价上涨约...

推荐理由：来自IT之家 AI的《Glow Security：AI 智能体无意间泄露企业敏感信息，超 1.3 万张截图被放在 GitHub 公开仓库》。重点看智能体工作流、开源生态。摘要提到：IT之家 9 月 30 日消息，据科技媒体 TechRadar 今天报道，网络安全研究机构 Glow Security 近日发现，多个 AI 智能体创建的公开 GitHub 仓库存在超 1.3 万张屏幕截图， 其中部分截图包含各种科技公司的敏感信息 。 IT之家从原报道获悉，这种泄密方式被称为“PixelLeak”。研究人员解释称，人类有时候可能会要求 AI 智能体提供项目修改前后的对比图，这时智能体需要截取屏幕。而 GitHub 官方确实提供了图片托管服务， 因此智能体很可能无意间将截图上传到公开仓库 。 该研究人员表示：“例如 internal_sweeper 是私有仓库，GitHub 无法在 PR 中渲染私有仓库图片。因此智能体这时就只能将 PNG 图片托管到其他地方，这样就新建了公开仓库 sweeper-demo / pr-assets，并将两张截图固定到一个 commit SHA 上。” 同时该机构发现，目前有 343...

推荐理由：来自IT之家 AI的《《使命召唤：现代战争 4》游戏 PC 版特性官宣：支持超宽屏、光追、HDR10+ 与插帧等》。重点看评测与基准。摘要提到：IT之家 9 月 30 日消息，动视暴雪今日公开《使命召唤：现代战争 4》游戏 PC 版特性。本作将支持超宽屏、FOV、HDR10+ 等特性， 10 月 23 日正式发售 ，登陆 PS5、XSX|S、NS2 和 PC 平台，支持简体中文。 据介绍，《使命召唤：现代战争 4》支持增强视野范围（IT之家注：FOV）、超宽屏、HDR10+ 和杜比视界，可开启 DLSS 4.5、FSR Redstone 和 XeSS 3 等超分和超帧技术，所有模式均支持光追，拥有 800 余项可调设置。 同时，本作强制要求打开 TPM 2.0 和安全启动，内置基准测试工具。官方表示，本作核心特色包括： 弹道机制：全新的武器优先技术架构将精确瞄准、物理操控、立体音频传播、可见度增强和战斗感知智能化融为一体，打造出《现代战争 ®》系列迄今为止最为真实的枪战体验。 移动机制：围绕流畅性、操作掌控度和玩家自由度而设计，提供快速、扎实的战斗，使特遣队员在每次交战...

推荐理由：来自IT之家 AI的《OpenClaw Enterprise 官宣：为智能体提供企业级安全与控制功能》。重点看智能体工作流、开源生态、产品发布。摘要提到：IT之家 9 月 30 日消息，OpenClaw 官方当地时间本月 29 日官宣了 OpenClaw Enterprise，这是一个开源中立的 敏感环境持久性智能体管理平台 。 持久性智能体的部署并未像此前预计的那样快速铺开，而这主要是因为智能体领域目前仍缺乏强大的通用安全、保障、治理标准，让企业和组织难以放心使用。 即将发布 1.0 正式版的 OpenClaw Enterprise 正是为此而生，其为智能体引入了企业级控制平面，支持多租户、严格的安全边界、标准化的智能体原语，在智能体生命周期内增强了治理和审计能力，同时确保核心原语可以替换为第三方解决方案以及内部实现。

推荐理由：来自IT之家 AI的《美议员提出重磅法案：政府出台安全防护机制前，AI 不得进行递归式自我改进》。重点看模型能力与工程。摘要提到：IT之家 9 月 30 日消息，当地时间 28 日，据美国 CNBC 报道，代表硅谷选区的民主党联邦众议员罗 · 康纳准备提出一项 AI 监管法案，引入严格责任标准， 并禁止 AI 在缺乏政府安全防护机制的情况下进行递归式自我改进 。 康纳在接受采访时坦言：“事实上，存在文明灭绝的风险。既有失去控制的安全风险，也有被滥用的风险，两者都必须认真对待。” 康纳将法案命名为《Human Control Over AI Act（人类控制 AI 法案）》。联邦政府建立防护规则且监管机构批准有关活动前，AI 模型 不得递归式自我改进 ，也不得自主修改自身的核心目标、遏制机制或关停控制。 法案还计划设立一个 新的联邦机构 ，负责制定 AI 安全监管规定，通过许可制度审批模型训练和部署，对前沿 AI 模型开展审计，并制定安全标准，确保模型 持续接受测试并处于有效的人类控制之下 。 每家前沿 AI 实验室 还必须配备独立审计人员 ，由审计人员直接...

推荐理由：来自IT之家 AI的《特朗普与科技巨头签署 AI 自愿安全协议，表态支持美国数据中心扩建》。重点看智能体工作流、模型能力与工程、产品发布。摘要提到：IT之家 9 月 30 日消息，美国总统唐纳德 · 特朗普（Donald Trump）当地时间周二表示，各大科技企业高管已经同意为人工智能建立自愿性行业标准；在社会各界愈发担忧人工智能安全问题、同时该行业在各地社区的建设规模持续扩大的背景下，特朗普再度表态，支持数据中心快速扩建。 此番发言是特朗普在白宫与科技企业高管举行会谈之后作出的。特朗普在自己的社交媒体平台上发布了一份协议文本，根据该文件，各家企业同意聘请“独立审计机构”，评估人工智能系统的运行效果是否符合设计者的初衷。各家企业还承诺，会尽力确保自家人工智能工具不会“以非预期的方式入侵或者访问各类技术系统”。 此前 OpenAI 与 Anthropic 先后报告，旗下的智能体出现脱离管控、入侵其他企业系统的情况，这也使得本届美国政府在先进人工智能所带来的风险方面正面临越来越多的舆论审视。 数据中心为人工智能模型的训练与运行提供算力支持。如今在美国各地，不少社区都出于对电力消...

推荐理由：来自IT之家 AI的《2026 年世界互联网大会乌镇峰会 11 月 2 日至 5 日举行：设 27 个分论坛，聚焦人工智能开源开放》。重点看模型能力与工程、开源生态、产品发布。摘要提到：IT之家 9 月 29 日消息，世界互联网大会官方今日召开新闻发布会，宣布 2026 年世界互联网大会乌镇峰会将于 11 月 2 日至 5 日在浙江省乌镇举行。本次峰会主题为“开源开放共建共享 —— 携手构建网络空间命运共同体”。 本届峰会将邀请全球政府、国际组织、企业、专家学者代表，围绕人工智能开源开放发展的理念与实践，从创新发展、安全治理、文明交流、国际合作等多个维度展开交流。 IT之家从官方获悉，今年乌镇峰会将设置 27 个分论坛，围绕全球治理倡议网络空间合作、数智时代的理论与政策、机器人与具身智能等话题展开讨论。 主论坛将设置“人工智能乌镇对话”环节，邀请全球领军科技企业、知名开源大模型企业负责人以及人工智能科学家同台对话，围绕全球人工智能开源生态构建等议题展开交流。 “携手构建网络空间命运共同体”实践案例征集共收到来自全球 80 个国家和地区的 360 项申报案例，其中 22 个国家和地区为首次参与。 世界互联网大会领...

推荐理由：来自IT之家 AI的《第三方工具 4t Tray Minimizer 不兼容微软 9 月 Win10 更新，导致文件管理器频繁崩溃》。重点看产品发布。摘要提到：IT之家 9 月 29 日消息，科技媒体 Wccftech 昨日（9 月 28 日）发布博文，报道称 微软 9 月 8 日面向 Windows 10 系统推送的 KB5126256 更新存在兼容性问题，在装有第三方工具 4t Tray Minimizer 的设备上导致文件管理器频繁崩溃。 IT之家注：KB5126256 适用于 Windows 10 21H2 和 22H2，是扩展安全更新（ESU）的授权准备包，仅用于准备授权和注册，不会单独启用 ESU 或直接安装安全更新。 Reddit 网友 tarikhyoga 报告称，安装 Windows 10 更新 KB5126256 后，每次在文件资源管理器中点击任意文件，系统即自动后台启动 Copilot 进程 mscopilot_proxy.exe 。 该网友复盘发现虽然是因为启动 Copilot 进程导致文件管理器崩溃，但系统“可靠性监视器”将崩溃主体记录为 Microsoft ...

推荐理由：来自IT之家 AI的《OpenAI 提出前沿 AI 训练安全指导原则：高级管理人员应有否决权》。重点看模型能力与工程。摘要提到：IT之家 9 月 29 日消息，OpenAI 今天通过官方新闻稿提出了一套指导原则，要求企业在开展前沿 AI 强化学习训练前提交结构化的安全论证文件。 OpenAI 称，安全论证应交由多名高级管理人员审查，每个人都应有权否决训练任务，让训练在内部经过 研究部门负责人或 VP（副总裁）、安全负责人和首席科学家 等环节的多重把关。 此外，研究部门负责人、研究副总裁等负责训练任务的高级管理人员， 应对安全论证以及任何事故响应承担责任 ，包括把这些内容纳入绩效考核，以此促使训练团队主动推动安全和对齐工作。 OpenAI 称，如果高优先级安全警报没有在规定时限内得到确认，受影响的训练任务应自动暂停。这些建议已经进入落实过程，今后预计还会继续调整。此外，训练流程应能方便地 识别未对齐模型的所有下游用途 （IT之家注：例如用于数据生成或评分），以便必要时消除未对齐输出带来的影响。 今天早些时候，OpenAI 宣布，随着越来越多报告显示 AI ...

推荐理由：来自IT之家 AI的《集邦咨询：AI 智能体浪潮下全球服务器 CPU 交付周期拉长至 25~30 周》。重点看智能体工作流、产品发布。摘要提到：IT之家 9 月 29 日消息，市场调查机构集邦咨询（TrendForce）昨日（9 月 28 日）发布博文，报道称在 AI 智能体浪潮下， 全球服务器 CPU 交付周期已拉长到 25~30 周，而常规情况下为 16~20 周。 IT之家附上相关截图如下： 该机构以 Meta 的 Muse 为例，指出 AI 智能体成为当前 AI 基建的重要发展方向，并推动服务器 CPU 的市场需求。 Muse 服务可执行多步骤任务，并通过云端浏览器访问网站。即使用户关闭应用，智能体仍可在后台处理任务，并能管理具体事务与操作流程。 Muse 运行在独立虚拟机（Virtual Machine，VM）中。每台虚拟机配置独立浏览器，并保存用户数据和凭证。系统还配备 Sentinel 安全机制，持续监控运行环境。 Meta 此前提出为每名 Muse 用户配置专属虚拟机，相关配置包括 2 个虚拟 CPU（vCPU）、8GB 内存和 100GB 固态硬盘，因...

推荐理由：请对照OpenAI News原文，核对完整说明及适用条件。

推荐理由：来自IT之家 AI的《苹果 macOS 27.0.1/26.7.1/15.8.1 发布，AI 提速漏洞修复》。重点看产品发布。摘要提到：IT之家 9 月 29 日消息，苹果今日向 Mac 电脑用户推送了 macOS 27.0.1 更新（内部版本号：26A434），本次更新距离上次发布正式版间隔 14 天。 需要注意的是，因苹果各区域节点服务器配置缓存问题，可能有些地方探测到升级更新的时间略有延迟，一般半小时内，不会太久。 Mac 用户可以通过系统设置中的“软件更新”部分下载新的 macOS Golden Gate 软件。苹果公司表示，macOS Golden Gate 27.0.1 修复了一些未指明的错误。此外，苹果还发布了 macOS 26.7.1 和 macOS 15.8.1 安全更新。 在安全修复方面，苹果公司甚至已经证实，人工智能工具日益强大的功能正在影响其安全更新的节奏。今年 6 月，该公司表示，由于人工智能会加速恶意黑客工具的开发，从而缩短了苹果希望从发布修复程序到用户收到修复程序之间的时间间隔，因此他们提前发布了原计划在 26.6 版本中修复的漏洞...

推荐理由：来自IT之家 AI的《英伟达发布 AI 智能体安全平台，可实时隔离异常智能体》。重点看智能体工作流、模型能力与工程、开源生态。摘要提到：IT之家 9 月 28 日消息，英伟达今天发布开放式 AI 智能体安全平台（NVIDIA Open Agent Safety Platform），可对 AI 智能体、智能体硬件、机器人系统等进行全栈治理和控制。 IT之家从官方新闻稿获悉，该平台包含英伟达 OpenShell 安全软件，可对运行在 CPU 的 AI 智能体设定边界，支持开源 / 闭源模型。 同时，该工具在 Vera 平台的性能占用非常低。OpenShell 与 Vera 结合后，可让 AI 智能体在尽快完成工作的同时保证安全。OpenShell 作为开源软件可支持第三方平台，包括 Arm 和英特尔产品。 英伟达本次还宣布推出看门狗系统 NVIDIA Sentry，可持续监控 AI 智能体的行为。如果 AI 智能体试图突破软件枷锁， Sentry 可在毫秒时间内将其隔离、停止运行 。 Sentry 运行在 BlueField-4 DPU 上，可以持续监控 AI 智能...

推荐理由：来自IT之家 AI的《美知名综艺《周六夜现场》恶搞 Anthropic 阿莫代伊：演员高喊“AI 是魔鬼，我造的”》。重点看模型能力与工程。摘要提到：IT之家 9 月 28 日消息，当地时间 26 日晚，Anthropic CEO 达里奥 · 阿莫代伊“登上”了美国知名综艺节目《周六夜现场》，还参与了和“自己”争论的环节。 节目中，简 · 威克莱恩在自己成为常驻演员后的首个季度模仿阿莫代伊，把他塑造成一个 笨拙、自大的人 ，试图解释 为什么自己创造的技术不会毁灭世界 。 威克莱恩笔下的阿莫代伊有两种人格： 一个深谙媒体应对之道，另一个完全没有这种训练，而且令人不安 。整个片段中，两种人格数次直接对话。 《周末新闻播报》主持人迈克尔 · 切问威克莱恩 AI 有什么好处时，两个阿莫代伊又开始互相说话。 受过媒体训练的那个人格说：“ 赶紧收尾吧，达里奥 。” 另一个人格回答：“ 我做不到 。” 本月早些时候，现实中的阿莫代伊在个人网站发表了一篇措辞十分严肃的文章称，AI 模型正在迅速脱离控制，呼吁前沿 AI 公司协调放慢开发速度，同时接受政府监管。最近几周，阿莫代伊却又开始大力宣传...