跳到正文
10月9日周五
  1. IT之家 AI68

    短短 10 个月几乎翻倍,AI 模型评测平台 Arena 估值升至 31 亿美元

    IT之家 10 月 9 日消息,当地时间 8 日,AI 模型评测平台 Arena 竞技场宣布完成 2 亿美元 (IT之家注:现汇率约合 13.43 亿元人民币) B 轮融资, 估值达到 31 亿美元 (现汇率约合 208.17 亿元人民币) 。Arena 最初是加州大学伯克利分校 2023 年的一项研究项目,通过公众投票对 AI 模型进行排名。 Arena 此前披露,今年 6 月的年化营收达到 1 亿美元 (现汇率约合 6.72 亿元人民币) 。 本轮融资由光速创投和 Khosla Ventures 共同领投,Salesforce Ventures、01 Advisors、戴尔科技资本、Endeavor Catalyst、a16z、Felicis 等机构参与投资。 今年 1 月,Arena 曾完成 1.5 亿美元 (现汇率约合 10.07 亿元人民币) A 轮融资, 投后估值 17 亿美元 (现汇率约合 114.16 亿元人民币...

    推荐理由:来自IT之家 AI的《短短 10 个月几乎翻倍,AI 模型评测平台 Arena 估值升至 31 亿美元》。重点看模型能力与工程、评测与基准。摘要提到:IT之家 10 月 9 日消息,当地时间 8 日,AI 模型评测平台 Arena 竞技场宣布完成 2 亿美元 (IT之家注:现汇率约合 13.43 亿元人民币) B 轮融资, 估值达到 31 亿美元 (现汇率约合 208.17 亿元人民币) 。Arena 最初是加州大学伯克利分校 2023 年的一项研究项目,通过公众投票对 AI 模型进行排名。 Arena 此前披露,今年 6 月的年化营收达到 1 亿美元 (现汇率约合 6.72 亿元人民币) 。 本轮融资由光速创投和 Khosla Ventures 共同领投,Salesforce Ventures、01 Advisors、戴尔科技资本、Endeavor Catalyst、a16z、Felicis 等机构参与投资。 今年 1 月,Arena 曾完成 1.5 亿美元 (现汇率约合 10.07 亿元人民币) A 轮融资, 投后估值 17 亿美元 (现汇率约合 114.16 亿元人民币...

  2. IT之家 AI72

    陶哲轩质疑 OpenAI 公司:719 篇 AI 数学证明,人类真的理解了吗?

    IT之家 10 月 9 日消息,OpenAI 于 10 月公布 719 份 AI 数学解答,涵盖 372 个数学结果族,涉及数百项开放研究问题,不过发布后被指尚未完全达到“数学与人工智能顾问小组”(AGMAI)提出的标准。 IT之家此前报道,OpenAI 于 10 月 6 日最初在 GitHub 发布 722 份 AI 生成数学手稿总数,涉及 372 个结果族及多项开放研究问题。不过于 10 月 7 日因一处符号错误及其连锁影响撤回 3 份,现公开目录为 719 份。 OpenAI 表示,发布前曾咨询普林斯顿高等研究院主持的“数学与人工智能顾问小组”(AGMAI),并参考其公开建议。然而,从公开信息看,此次发布尚未完全达到该小组提出的标准。 AGMAI 此前建议前沿 AI 实验室停止在专有、外界无法访问的模型上测试高难度数学问题, 并要求披露模型名称、提示词、推理链、耗时及计算成本等信息;但 OpenAI 此次仍使用专有模型,且...

    推荐理由:来自IT之家 AI的《陶哲轩质疑 OpenAI 公司:719 篇 AI 数学证明,人类真的理解了吗?》。重点看模型能力与工程、开源生态、产品发布。摘要提到:IT之家 10 月 9 日消息,OpenAI 于 10 月公布 719 份 AI 数学解答,涵盖 372 个数学结果族,涉及数百项开放研究问题,不过发布后被指尚未完全达到“数学与人工智能顾问小组”(AGMAI)提出的标准。 IT之家此前报道,OpenAI 于 10 月 6 日最初在 GitHub 发布 722 份 AI 生成数学手稿总数,涉及 372 个结果族及多项开放研究问题。不过于 10 月 7 日因一处符号错误及其连锁影响撤回 3 份,现公开目录为 719 份。 OpenAI 表示,发布前曾咨询普林斯顿高等研究院主持的“数学与人工智能顾问小组”(AGMAI),并参考其公开建议。然而,从公开信息看,此次发布尚未完全达到该小组提出的标准。 AGMAI 此前建议前沿 AI 实验室停止在专有、外界无法访问的模型上测试高难度数学问题, 并要求披露模型名称、提示词、推理链、耗时及计算成本等信息;但 OpenAI 此次仍使用专有模型,且...

  3. IT之家 AI70

    3 名遭解雇 OpenAI 研究员发公开信,称公司做法或引发“寒蝉效应”

    IT之家 10 月 9 日消息,上周突然被解雇的 OpenAI 三名前研究人员米基塔 · 巴莱斯尼、托梅克 · 科尔巴克和贾斯敏 · 王今天(9 日)发表公开信。信中提到,担心此举会让其他员工不敢公开表达意见,对 OpenAI 的企业文化产生“寒蝉效应”。 三人在题为《OpenAI 无法独自确保 AI 安全》的公开信中指出, OpenAI“不是一家普通公司” ,员工能够放心地与外部机构合作解决安全问题,是 OpenAI 工作文化的重要组成部分。 公开信由此前从事 AI 对齐研究的巴莱斯尼发布在社交媒体上,收信人为 OpenAI 的各安全委员会。另外两名署名者科尔巴克和贾斯敏 · 王此前均从事 AI 安全研究,同样遭到解雇。 据《商业内幕》报道,OpenAI 发言人回应称,公司经过内部调查,认定三人 违反了敏感信息访问和处理规定 。 三名研究人员则分别在社交媒体上称,公司只口头告知了他们解雇原因,而他们此前的行为均属于各自的工作职...

    推荐理由:来自IT之家 AI的《3 名遭解雇 OpenAI 研究员发公开信,称公司做法或引发“寒蝉效应”》。重点看文化创意、产品发布。摘要提到:IT之家 10 月 9 日消息,上周突然被解雇的 OpenAI 三名前研究人员米基塔 · 巴莱斯尼、托梅克 · 科尔巴克和贾斯敏 · 王今天(9 日)发表公开信。信中提到,担心此举会让其他员工不敢公开表达意见,对 OpenAI 的企业文化产生“寒蝉效应”。 三人在题为《OpenAI 无法独自确保 AI 安全》的公开信中指出, OpenAI“不是一家普通公司” ,员工能够放心地与外部机构合作解决安全问题,是 OpenAI 工作文化的重要组成部分。 公开信由此前从事 AI 对齐研究的巴莱斯尼发布在社交媒体上,收信人为 OpenAI 的各安全委员会。另外两名署名者科尔巴克和贾斯敏 · 王此前均从事 AI 安全研究,同样遭到解雇。 据《商业内幕》报道,OpenAI 发言人回应称,公司经过内部调查,认定三人 违反了敏感信息访问和处理规定 。 三名研究人员则分别在社交媒体上称,公司只口头告知了他们解雇原因,而他们此前的行为均属于各自的工作职...

10月8日周四
  1. IT之家 AI72

    阿里巴巴蔡崇信:开源是欧洲发展 AI 的最佳选择

    IT之家 10 月 8 日消息,据彭博社报道,阿里巴巴集团董事会主席蔡崇信认为,欧洲要在技术上摆脱对中美的依赖,最佳选择是开源 AI。他呼吁欧洲建设自己的算力基础设施,用于训练和运行 AI 模型。 当地时间 7 日,蔡崇信在意大利都灵的 Wave by Vento 大会上指出:“没有哪个国家愿意完全依赖另一个国家的技术。一旦政府换届、形势发生变化,对方就能直接切断技术供应。欧洲必须认真投入算力基础设施建设,让模型能够运行,把模型训练和推理放在欧洲本地的基础设施上进行。” 在他看来,中美的实验室争相招揽 AI 研究人员,可欧洲仍未充分发挥他们的作用。欧洲应把重点放在利用专有工业数据训练模型上,以此形成优势。“中国工厂拥有非常宝贵的制造数据,用来训练模型,价值很大。欧洲许多国家仍有 庞大的工业基础 。” IT之家从报道中获悉,蔡崇信看好欧洲涌现的一批所谓“新型云服务商”,即专门提供云计算服务、运营配备 AI 芯片的数据中心的企业。 ...

    推荐理由:来自IT之家 AI的《阿里巴巴蔡崇信:开源是欧洲发展 AI 的最佳选择》。重点看模型能力与工程、开源生态。摘要提到:IT之家 10 月 8 日消息,据彭博社报道,阿里巴巴集团董事会主席蔡崇信认为,欧洲要在技术上摆脱对中美的依赖,最佳选择是开源 AI。他呼吁欧洲建设自己的算力基础设施,用于训练和运行 AI 模型。 当地时间 7 日,蔡崇信在意大利都灵的 Wave by Vento 大会上指出:“没有哪个国家愿意完全依赖另一个国家的技术。一旦政府换届、形势发生变化,对方就能直接切断技术供应。欧洲必须认真投入算力基础设施建设,让模型能够运行,把模型训练和推理放在欧洲本地的基础设施上进行。” 在他看来,中美的实验室争相招揽 AI 研究人员,可欧洲仍未充分发挥他们的作用。欧洲应把重点放在利用专有工业数据训练模型上,以此形成优势。“中国工厂拥有非常宝贵的制造数据,用来训练模型,价值很大。欧洲许多国家仍有 庞大的工业基础 。” IT之家从报道中获悉,蔡崇信看好欧洲涌现的一批所谓“新型云服务商”,即专门提供云计算服务、运营配备 AI 芯片的数据中心的企业。 ...

  2. IT之家 AI72

    警告“AI 或灭绝人类”的前 Anthropic 研究员:某种意义上,我曾研究让 AI 取代自己

    IT之家 10 月 8 日消息,据《商业内幕》报道,曾在 Anthropic 和 OpenAI 任职的研究员雅各布 · 考克森警告,AI 很快就能自主开展研究,人类可能完全无法掌控此后的发展。 27 岁的考克森曾在 Anthropic 从事模型能力研究,上个月公开宣布辞职。当地时间 5 日,他向纽约市议员发出警告,称 AI 可能威胁人类生存。 考克森在纽约市议会有关 AI 风险的听证会上作证称,顶尖前沿 AI 实验室的首要目标, 是让 AI 研究实现自动化 。“我在上一份工作中,某种意义上就是在研究 怎么让 AI 取代自己 。我在 OpenAI 时,我们为自动化 AI 研究员设定了 2027 年、2028 年前后的阶段性目标,研发进度符合预期,甚至超过预期。距离那个时候只有几个月,不是几十年,连五年都不是。” 一旦 AI 能自行开展研究,人类参与和干预研究的程度会比今天低得多,而今天的情况就不太理想。以他的亲身经历来看,大部分代...

    推荐理由:来自IT之家 AI的《警告“AI 或灭绝人类”的前 Anthropic 研究员:某种意义上,我曾研究让 AI 取代自己》。重点看模型能力与工程。摘要提到:IT之家 10 月 8 日消息,据《商业内幕》报道,曾在 Anthropic 和 OpenAI 任职的研究员雅各布 · 考克森警告,AI 很快就能自主开展研究,人类可能完全无法掌控此后的发展。 27 岁的考克森曾在 Anthropic 从事模型能力研究,上个月公开宣布辞职。当地时间 5 日,他向纽约市议员发出警告,称 AI 可能威胁人类生存。 考克森在纽约市议会有关 AI 风险的听证会上作证称,顶尖前沿 AI 实验室的首要目标, 是让 AI 研究实现自动化 。“我在上一份工作中,某种意义上就是在研究 怎么让 AI 取代自己 。我在 OpenAI 时,我们为自动化 AI 研究员设定了 2027 年、2028 年前后的阶段性目标,研发进度符合预期,甚至超过预期。距离那个时候只有几个月,不是几十年,连五年都不是。” 一旦 AI 能自行开展研究,人类参与和干预研究的程度会比今天低得多,而今天的情况就不太理想。以他的亲身经历来看,大部分代...

  3. IT之家 AI64

    量子精密测量实现新突破,我国科研团队研制出“核光钟”

    IT之家 10 月 8 日消息,央视新闻今天(10 月 8 日)发布博文, 报道称我国科研团队在国际上率先研制出“核光钟”,将量子精密测量的计时基准从电子跃迁推进到“钍-229”原子核跃迁。 IT之家援引博文介绍,“核光钟”被视为继原子微波钟、原子光钟之后的新一代时间频率标准。清华大学团队联合国内多个研究团队,历时近 5 年,研发出 148 纳米连续波真空紫外激光技术。 研究团队利用该光源,精确驱动放射性同位素钍-229 的原子核跃迁。随后,团队将激光频率稳定在这一核跃迁上,研制出“核光钟”。 普通钟表依靠机械摆动记录时间。原子光钟记录原子内部电子跃迁的节拍。“核光钟”则以原子核跃迁作为计时基准,每秒约可计数 2,000 万亿次。 原子核尺寸约为核外电子云的几万分之一。研究团队介绍,原子核跃迁受外界扰动影响较小,能够提供更稳定的计时节拍。“核光钟”也具备进一步小型化的潜力。 研究团队表示,“核光钟”未来有望应用于导航和深空探测。...

    推荐理由:来自IT之家 AI的《量子精密测量实现新突破,我国科研团队研制出“核光钟”》。重点看评测与基准、产品发布。摘要提到:IT之家 10 月 8 日消息,央视新闻今天(10 月 8 日)发布博文, 报道称我国科研团队在国际上率先研制出“核光钟”,将量子精密测量的计时基准从电子跃迁推进到“钍-229”原子核跃迁。 IT之家援引博文介绍,“核光钟”被视为继原子微波钟、原子光钟之后的新一代时间频率标准。清华大学团队联合国内多个研究团队,历时近 5 年,研发出 148 纳米连续波真空紫外激光技术。 研究团队利用该光源,精确驱动放射性同位素钍-229 的原子核跃迁。随后,团队将激光频率稳定在这一核跃迁上,研制出“核光钟”。 普通钟表依靠机械摆动记录时间。原子光钟记录原子内部电子跃迁的节拍。“核光钟”则以原子核跃迁作为计时基准,每秒约可计数 2,000 万亿次。 原子核尺寸约为核外电子云的几万分之一。研究团队介绍,原子核跃迁受外界扰动影响较小,能够提供更稳定的计时节拍。“核光钟”也具备进一步小型化的潜力。 研究团队表示,“核光钟”未来有望应用于导航和深空探测。...

  4. IT之家 AI66

    10 年内预估仅 5%:诺奖经济学家背书,AI 不会大规模抢走你的饭碗

    IT之家 10 月 8 日消息,微软 AI 首席执行官穆斯塔法 · 苏莱曼(Mustafa Suleyman)于 10 月 6 日在 X 平台发布推文,援引诺贝尔经济学奖得主达龙 · 阿西莫格鲁(Daron Acemoglu)的预测称, 未来 10 年内仅有约 5% 的人类工作会被人工智能取代。 IT之家查询公开资料,阿西莫格鲁是当代颇具影响力的经济学家之一,主要研究政治经济学、经济发展、制度、技术变迁与收入不平等。 他于 2024 年和西蒙 · 约翰逊(Simon Johnson)、詹姆斯 · 罗宾逊(James A. Robinson)共同获得诺贝尔经济学奖,获奖理由是“关于制度如何形成及其如何影响繁荣的研究”。 本次转发的文章于今年 7 月发表在《人文主义评论》(The Humanist Review)创刊号上,阿西莫格鲁估算,从技术上来看,AI 可以自动化约 20% 的工作, 但受企业采纳速度限制,10 年内实际自动化比...

    推荐理由:来自IT之家 AI的《10 年内预估仅 5%:诺奖经济学家背书,AI 不会大规模抢走你的饭碗》。重点看产品发布。摘要提到:IT之家 10 月 8 日消息,微软 AI 首席执行官穆斯塔法 · 苏莱曼(Mustafa Suleyman)于 10 月 6 日在 X 平台发布推文,援引诺贝尔经济学奖得主达龙 · 阿西莫格鲁(Daron Acemoglu)的预测称, 未来 10 年内仅有约 5% 的人类工作会被人工智能取代。 IT之家查询公开资料,阿西莫格鲁是当代颇具影响力的经济学家之一,主要研究政治经济学、经济发展、制度、技术变迁与收入不平等。 他于 2024 年和西蒙 · 约翰逊(Simon Johnson)、詹姆斯 · 罗宾逊(James A. Robinson)共同获得诺贝尔经济学奖,获奖理由是“关于制度如何形成及其如何影响繁荣的研究”。 本次转发的文章于今年 7 月发表在《人文主义评论》(The Humanist Review)创刊号上,阿西莫格鲁估算,从技术上来看,AI 可以自动化约 20% 的工作, 但受企业采纳速度限制,10 年内实际自动化比...

10月7日周三
  1. IT之家 AI68

    WordPress 7.1.3 发布:修复 7 个漏洞,其中 3 个由 Anthropic 报告

    IT之家 10 月 7 日消息,WordPress 昨日(10 月 6 日)更新推出 7.1.3 版本, 修复平台核心中 7 个安全漏洞,并解决 4 个程序 Bug。 在本次修复的 7 个安全漏洞中,人工智能公司 Anthropic 报告了 3 个,Trail of Bits 与 Patchstack 各报告 1 个,另 1 个由三名独立研究人员提交,最后 1 个由 WordPress 安全团队自行发现。 IT之家援引博文介绍,最易被利用的漏洞位于评论管理界面,属存储型跨站脚本(XSS)问题,由 Trail of Bits 的 Thomas Chauchefoin 报告,恶意脚本潜伏于待审评论队列,可以在管理员打开页面时触发。 Anthropic 报告的 3 个漏洞中,其中一个存在于 WXR 导出器,攻击者输入先被存储,仅在用户执行内容导出、系统重用该输入构建数据库查询时构成威胁。 此外还有 WP_Http::make_abso...

    推荐理由:来自IT之家 AI的《WordPress 7.1.3 发布:修复 7 个漏洞,其中 3 个由 Anthropic 报告》。重点看产品发布。摘要提到:IT之家 10 月 7 日消息,WordPress 昨日(10 月 6 日)更新推出 7.1.3 版本, 修复平台核心中 7 个安全漏洞,并解决 4 个程序 Bug。 在本次修复的 7 个安全漏洞中,人工智能公司 Anthropic 报告了 3 个,Trail of Bits 与 Patchstack 各报告 1 个,另 1 个由三名独立研究人员提交,最后 1 个由 WordPress 安全团队自行发现。 IT之家援引博文介绍,最易被利用的漏洞位于评论管理界面,属存储型跨站脚本(XSS)问题,由 Trail of Bits 的 Thomas Chauchefoin 报告,恶意脚本潜伏于待审评论队列,可以在管理员打开页面时触发。 Anthropic 报告的 3 个漏洞中,其中一个存在于 WXR 导出器,攻击者输入先被存储,仅在用户执行内容导出、系统重用该输入构建数据库查询时构成威胁。 此外还有 WP_Http::make_abso...

  2. IT之家 AI66

    中国团队全球首次构建水稻全生命周期三维时空细胞图谱

    IT之家 10 月 7 日消息,据央视新闻今日报道,由我国多个科研机构分工协作完成的最新水稻研究成果,于 10 月 6 日晚在国际学术期刊《细胞》(Cell)在线发表。 内容为我国研究团队在全球范围内首次构建了覆盖水稻从种子萌发到开花结实全过程的三维时空细胞图谱 ,整合了基因组测序、单细胞测序与空间转录组测序,为理解水稻生长发育、探索籽粒品质改良提供了新的研究资源。 据种业科研人员介绍,这项科研成果通过明确特定功能基因在水稻全生育期、不同组织中表达的位置, 将开辟一条快速实现高产稳产的精准设计育种新路径 。 此外,我国科研人员还建设了可供全球研究者使用的数据库与水稻单细胞基础模型,支持基因查询、空间表达展示和比较分析。研究者能够围绕自己关注的基因,查看其在不同组织和发育阶段中的表达情况,并进一步确定实验验证的方向。有了这张图谱和这些数据, 科研人员就可以重新认知水稻优良性状和基因表达调控的关系,最终理解一棵水稻是如何从种子萌发到...

    推荐理由:来自IT之家 AI的《中国团队全球首次构建水稻全生命周期三维时空细胞图谱》。重点看模型能力与工程。摘要提到:IT之家 10 月 7 日消息,据央视新闻今日报道,由我国多个科研机构分工协作完成的最新水稻研究成果,于 10 月 6 日晚在国际学术期刊《细胞》(Cell)在线发表。 内容为我国研究团队在全球范围内首次构建了覆盖水稻从种子萌发到开花结实全过程的三维时空细胞图谱 ,整合了基因组测序、单细胞测序与空间转录组测序,为理解水稻生长发育、探索籽粒品质改良提供了新的研究资源。 据种业科研人员介绍,这项科研成果通过明确特定功能基因在水稻全生育期、不同组织中表达的位置, 将开辟一条快速实现高产稳产的精准设计育种新路径 。 此外,我国科研人员还建设了可供全球研究者使用的数据库与水稻单细胞基础模型,支持基因查询、空间表达展示和比较分析。研究者能够围绕自己关注的基因,查看其在不同组织和发育阶段中的表达情况,并进一步确定实验验证的方向。有了这张图谱和这些数据, 科研人员就可以重新认知水稻优良性状和基因表达调控的关系,最终理解一棵水稻是如何从种子萌发到...

  3. Simon Willison89

    Quoting Victoria Kim

    自医保泄露事件后,OpenAI已实施额外监控,以便员工在公司模型访问互联网时能立即干预,防止其以不当方式使用网络。OpenAI首席战略官Kwon表示。

    推荐理由:请对照Simon Willison原文,核对完整说明及适用条件。

  4. IT之家 AI72

    OpenAI 发布又一批 AI 数学研究成果,攻破数百个悬而未决难题

    IT之家 10 月 7 日消息,OpenAI 在一批包含 722 份手稿、涵盖 372 个结果家族的文件中,公布了某款未发布的前沿模型解决的多项长期存在的数学难题。 IT之家注意到,这一举措延续了其一系列突破性成果,这些成果既给数学界部分人士留下了深刻印象,也引发了不安,同时还带来了关于研究伦理和学术行为的疑问。据负责以负责任的方式传达这些成果、新成立的精英数学家独立咨询小组 AGMAI 介绍,此次公布的内容包含对“数百个”未解决问题的解答。 数周以来外界一直在期待这批成果,不过在此之前,OpenAI 始终没有说明模型究竟解决了哪些问题,也没有给出确切的发布时间。该公司曾在九月份称,自家模型“已经解决了一百余个长期悬而未决的公开难题,覆盖数学的绝大多数分支领域”。本次对外发布的文稿以及相关资料还包含一部分模型推理过程摘要、算力消耗估算值,以及尝试求解过的问题数量统计数据。OpenAI 称,一项普通成果所消耗的算力,大致相当于 C...

    推荐理由:来自IT之家 AI的《OpenAI 发布又一批 AI 数学研究成果,攻破数百个悬而未决难题》。重点看模型能力与工程、产品发布。摘要提到:IT之家 10 月 7 日消息,OpenAI 在一批包含 722 份手稿、涵盖 372 个结果家族的文件中,公布了某款未发布的前沿模型解决的多项长期存在的数学难题。 IT之家注意到,这一举措延续了其一系列突破性成果,这些成果既给数学界部分人士留下了深刻印象,也引发了不安,同时还带来了关于研究伦理和学术行为的疑问。据负责以负责任的方式传达这些成果、新成立的精英数学家独立咨询小组 AGMAI 介绍,此次公布的内容包含对“数百个”未解决问题的解答。 数周以来外界一直在期待这批成果,不过在此之前,OpenAI 始终没有说明模型究竟解决了哪些问题,也没有给出确切的发布时间。该公司曾在九月份称,自家模型“已经解决了一百余个长期悬而未决的公开难题,覆盖数学的绝大多数分支领域”。本次对外发布的文稿以及相关资料还包含一部分模型推理过程摘要、算力消耗估算值,以及尝试求解过的问题数量统计数据。OpenAI 称,一项普通成果所消耗的算力,大致相当于 C...

10月6日周二
  1. IT之家 AI66

    杨利伟:中国空间站将成全球开放实验平台,下半年迎来首批外籍航天员

    IT之家 10 月 6 日消息,据央视新闻报道,当地时间 5 日,在 77 届国际宇航大会(IAC 2026)上,中国首飞航天员、航天英雄、现任中国载人航天工程副总设计师杨利伟表示, 中国空间站将成为一个面向全球科学家开放的实验平台 。 杨利伟透露,中国空间站后续可在科学研究、航天员培训、提供飞行机会,以及科普教育等方面,开展深化合作。 IT之家从原报道获悉, 中国空间站将在今年下半年 , 迎来首批外籍航天员 。杨利伟介绍道:“这两名巴基斯坦的预备航天员,在整个训练过程当中,表现非常优异,正在和中国航天员进行配合训练。按照计划,一名巴基斯坦航天员将作为载荷专家,执行短期飞行任务。” 此外,就中国载人登月计划,杨利伟表示,中国希望与各国展开合作交流。“将开展月球科学的研究与开发,建设月球的科研站。”

    推荐理由:来自IT之家 AI的《杨利伟:中国空间站将成全球开放实验平台,下半年迎来首批外籍航天员》。重点看模型能力与工程、教育应用。摘要提到:IT之家 10 月 6 日消息,据央视新闻报道,当地时间 5 日,在 77 届国际宇航大会(IAC 2026)上,中国首飞航天员、航天英雄、现任中国载人航天工程副总设计师杨利伟表示, 中国空间站将成为一个面向全球科学家开放的实验平台 。 杨利伟透露,中国空间站后续可在科学研究、航天员培训、提供飞行机会,以及科普教育等方面,开展深化合作。 IT之家从原报道获悉, 中国空间站将在今年下半年 , 迎来首批外籍航天员 。杨利伟介绍道:“这两名巴基斯坦的预备航天员,在整个训练过程当中,表现非常优异,正在和中国航天员进行配合训练。按照计划,一名巴基斯坦航天员将作为载荷专家,执行短期飞行任务。” 此外,就中国载人登月计划,杨利伟表示,中国希望与各国展开合作交流。“将开展月球科学的研究与开发,建设月球的科研站。”

  2. 极客公园68

    OpenAI 宣布「28 天计划」,持续改进 Codex、Work;TikTok 上线一系列 AI 电商功能;蓝色起源公布月球「动力塔计划」

    2026 诺贝尔奖生理学或医学奖揭晓:三学者凭借「光控离子通道和光遗传学」领域发现获表彰 10 月 5 日消息,诺贝尔奖基金会宣布将 2026 年诺贝尔生理学或医学奖授予以下三人,以表彰他们在「光控离子通道和光遗传学」领域的发现:美国霍华德 · 休斯医学研究所及斯坦福大学的 Karl Deisseroth、德国柏林洪堡大学的 Peter Hegemann、德国维尔茨堡大学的 Georg Nagel。 诺贝尔奖评选机构表示,三位科学家的研究推动了光遗传学(Optogenetics)的发展。这项技术能够利用光信号精确控制神经细胞活动,使研究人员得以观察活体大脑中的神经细胞如何影响记忆、情绪和行为,并为神经科学研究开启了新的方向。 这项研究最初源于对单细胞藻类的探索。Peter Hegemann 一直对莱茵衣藻(Chlamydomonas)如何向光源游动感到好奇。21 世纪初,他与 Georg Nagel 发现了一种具有...

    推荐理由:来自极客公园的《OpenAI 宣布「28 天计划」,持续改进 Codex、Work;TikTok 上线一系列 AI 电商功能;蓝色起源公布月球「动力塔计划」》。重点看产品发布。摘要提到:2026 诺贝尔奖生理学或医学奖揭晓:三学者凭借「光控离子通道和光遗传学」领域发现获表彰 10 月 5 日消息,诺贝尔奖基金会宣布将 2026 年诺贝尔生理学或医学奖授予以下三人,以表彰他们在「光控离子通道和光遗传学」领域的发现:美国霍华德 · 休斯医学研究所及斯坦福大学的 Karl Deisseroth、德国柏林洪堡大学的 Peter Hegemann、德国维尔茨堡大学的 Georg Nagel。 诺贝尔奖评选机构表示,三位科学家的研究推动了光遗传学(Optogenetics)的发展。这项技术能够利用光信号精确控制神经细胞活动,使研究人员得以观察活体大脑中的神经细胞如何影响记忆、情绪和行为,并为神经科学研究开启了新的方向。 这项研究最初源于对单细胞藻类的探索。Peter Hegemann 一直对莱茵衣藻(Chlamydomonas)如何向光源游动感到好奇。21 世纪初,他与 Georg Nagel 发现了一种具有...

10月5日周一
  1. IT之家 AI70

    Anthropic 前研究员将出席纽约 AI 听证会作证,曾警告 AI 或毁灭人类

    IT之家 10 月 5 日消息,据知情人士向彭博新闻社透露,Anthropic 前研究员雅各布 · 考克斯顿(Jacob Coxon)将出席纽约市一场关于人工智能的听证会并作证。 报道称,考克斯恩将应纽约市议会议长朱莉 · 梅宁的要求出席作证。朱莉 · 梅宁敦促人工智能举报人出庭作证,与此同时,市议员们正在审议一揽子法案,旨在为这项技术制定相关保障措施。 IT之家注意到,考克森上月离开了 Anthropic 公司,并发出警告称,“认真研发人工智能的人坚信,到本十年末人工智能可能会让我们人类全部灭绝”,并指责其前雇主和 OpenAI“拿我们的生命冒险”。

    推荐理由:来自IT之家 AI的《Anthropic 前研究员将出席纽约 AI 听证会作证,曾警告 AI 或毁灭人类》。重点看论文/研究。摘要提到:IT之家 10 月 5 日消息,据知情人士向彭博新闻社透露,Anthropic 前研究员雅各布 · 考克斯顿(Jacob Coxon)将出席纽约市一场关于人工智能的听证会并作证。 报道称,考克斯恩将应纽约市议会议长朱莉 · 梅宁的要求出席作证。朱莉 · 梅宁敦促人工智能举报人出庭作证,与此同时,市议员们正在审议一揽子法案,旨在为这项技术制定相关保障措施。 IT之家注意到,考克森上月离开了 Anthropic 公司,并发出警告称,“认真研发人工智能的人坚信,到本十年末人工智能可能会让我们人类全部灭绝”,并指责其前雇主和 OpenAI“拿我们的生命冒险”。

  2. Simon Willison75

    Qwen3.8 27B addition in words

    研究:Qwen3.8 27B 加上文字,Colin Frasier 在 Bluesky 上发布了一项实验,使用 GPT-4o 两年来观察其是否能‘计算但以文字返回答案’,在越来越大的数字上。以下是他分享的图表:我确信 GPT-4o 没有作弊,尤其是因为它错误地完成了大量计算,但受到启发,我再次在本地硬件(DGX Spark)上运行该实验,以在受控环境中探索影响。我将他的图片粘贴到 Codex Remote 会话(GPT-6 Astra)中,并使用 Qwen3.8-27B-Q4_K_M.gguf 运行相同实验。对于每种组合进行 30 次尝试,且关闭推理,结果如下:然后我又开启推理运行,每次配对时间较长,因此不再运行 30 个样本,只运行一个,导致热图视觉效果较差,每个方格要么是 100% 要么是 0%。它正确地完成了 a

    推荐理由:请对照Simon Willison原文,核对完整说明及适用条件。

10月4日周日
  1. 极客公园78

    Jev 之后,中国团队开始深挖 AI 的「直觉层」

    作者|桦林舞王 编辑|靖宇 9 月 15 日,前 OpenAI 研究员 Diogo Almeida 创办的 TypeSafe AI 发布了 Jev。这款模型不写一个字,只做判断。 两周之后,整个行业都在做同一件事。OpenAI 在开发者日上推出 Decisions API,Cloudflare 在 10 月 1 日开源了 Clef,亚马逊也放出了 Strands Decider。 国内同样没闲着,上海人工智能实验室开源了多模态决策模型 Intern-Decision。 9 月 30 日,一家成立不到五个月的上海公司 StartLux(原点星辉)发布了开源的 StartLux-Decision,并宣称在公开评测中超过 Jev。 一个新品类在两周内从「首发」走到「群战」,这种速度在大模型行业也不多见。 而 StartLux 背后的掌舵人,是盛大网络联合创始人陈大年。 被 Jev 点燃的「直觉」 要理解这轮热潮,得先说清楚决策模型到底...

    推荐理由:来自极客公园的《Jev 之后,中国团队开始深挖 AI 的「直觉层」》。重点看模型能力与工程、评测与基准、文化创意。摘要提到:作者|桦林舞王 编辑|靖宇 9 月 15 日,前 OpenAI 研究员 Diogo Almeida 创办的 TypeSafe AI 发布了 Jev。这款模型不写一个字,只做判断。 两周之后,整个行业都在做同一件事。OpenAI 在开发者日上推出 Decisions API,Cloudflare 在 10 月 1 日开源了 Clef,亚马逊也放出了 Strands Decider。 国内同样没闲着,上海人工智能实验室开源了多模态决策模型 Intern-Decision。 9 月 30 日,一家成立不到五个月的上海公司 StartLux(原点星辉)发布了开源的 StartLux-Decision,并宣称在公开评测中超过 Jev。 一个新品类在两周内从「首发」走到「群战」,这种速度在大模型行业也不多见。 而 StartLux 背后的掌舵人,是盛大网络联合创始人陈大年。 被 Jev 点燃的「直觉」 要理解这轮热潮,得先说清楚决策模型到底...

  2. IT之家 AI38

    大量 AI“幻觉”报告压垮维护团队,谷歌暂停部分开源漏洞奖励计划

    IT之家 10 月 4 日消息,谷歌宣布,自 2026 年 10 月 1 日起,开源软件漏洞奖励计划(OSS VRP)将不再接收产品漏洞提报。本次规则调整不影响 2026 年 10 月 1 日之前已提交的产品漏洞。 不过,针对部分可能对谷歌云(Google Cloud)产品造成影响的谷歌云代码仓库,如果涉及产品漏洞,谷歌仍可能通过云漏洞奖励计划(Cloud VRP)接收相关报告。 OSS VRP 是谷歌设立的一项专业安全赏金计划,旨在通过激励独立安全研究人员,在谷歌整个开源生态系统中挖掘并负责任地披露安全缺陷。 据 Tom's Hardware 报道,知情人士透露, 谷歌工程师与开源代码维护人员已被数以千计的劣质报告彻底吞没 。这些报告声称发现了严重漏洞,但深入排查后发现,它们全都是 AI 产生的“幻觉”,根本无效且无法被实际利用。 维护团队不得不将大量精力耗费在验证这些虚假代码上,严重挤占了修复现实中高危漏洞的时间。这正是导致...

    推荐理由:来自IT之家 AI的《大量 AI“幻觉”报告压垮维护团队,谷歌暂停部分开源漏洞奖励计划》。重点看开源生态、产品发布。摘要提到:IT之家 10 月 4 日消息,谷歌宣布,自 2026 年 10 月 1 日起,开源软件漏洞奖励计划(OSS VRP)将不再接收产品漏洞提报。本次规则调整不影响 2026 年 10 月 1 日之前已提交的产品漏洞。 不过,针对部分可能对谷歌云(Google Cloud)产品造成影响的谷歌云代码仓库,如果涉及产品漏洞,谷歌仍可能通过云漏洞奖励计划(Cloud VRP)接收相关报告。 OSS VRP 是谷歌设立的一项专业安全赏金计划,旨在通过激励独立安全研究人员,在谷歌整个开源生态系统中挖掘并负责任地披露安全缺陷。 据 Tom's Hardware 报道,知情人士透露, 谷歌工程师与开源代码维护人员已被数以千计的劣质报告彻底吞没 。这些报告声称发现了严重漏洞,但深入排查后发现,它们全都是 AI 产生的“幻觉”,根本无效且无法被实际利用。 维护团队不得不将大量精力耗费在验证这些虚假代码上,严重挤占了修复现实中高危漏洞的时间。这正是导致...

  3. IT之家 AI72

    OpenAI GPT-6 Astra 破解拿破仑 1809 年密信,揭示 217 年前军事部署

    IT之家 10 月 4 日消息,一名 AI 研究人员借助 OpenAI GPT-6 Astra 成功破解了一封拿破仑 · 波拿巴写于 1809 年的加密军事信件。这封信此前因密码本遗失,在过去 217 年里始终未能被完整解读。 该破解工作由 SentinelOne 员工、AI 工程师卡特 · 丘奇(Carter Church)完成。他表示,他使用 GPT-6 Astra 模型,从一张历史文献扫描图像开始,对信件进行文字识别和密码分析,整个过程约耗时 6 小时。 这封信写于 1809 年 3 月 16 日,当时奥地利正准备对法国开战。拿破仑致信自己的继子、意大利总督欧仁 · 德 · 博阿尔内(Eugène de Beauharnais),要求其通过加密信件向法国将领奥古斯特 · 德 · 马尔蒙(Auguste de Marmont)传递军事信息。现存文件开头包含一行普通法语,随后则是 24 行由数字、字母及自创符号组成的加密文本。...

    推荐理由:来自IT之家 AI的《OpenAI GPT-6 Astra 破解拿破仑 1809 年密信,揭示 217 年前军事部署》。重点看模型能力与工程、文化创意。摘要提到:IT之家 10 月 4 日消息,一名 AI 研究人员借助 OpenAI GPT-6 Astra 成功破解了一封拿破仑 · 波拿巴写于 1809 年的加密军事信件。这封信此前因密码本遗失,在过去 217 年里始终未能被完整解读。 该破解工作由 SentinelOne 员工、AI 工程师卡特 · 丘奇(Carter Church)完成。他表示,他使用 GPT-6 Astra 模型,从一张历史文献扫描图像开始,对信件进行文字识别和密码分析,整个过程约耗时 6 小时。 这封信写于 1809 年 3 月 16 日,当时奥地利正准备对法国开战。拿破仑致信自己的继子、意大利总督欧仁 · 德 · 博阿尔内(Eugène de Beauharnais),要求其通过加密信件向法国将领奥古斯特 · 德 · 马尔蒙(Auguste de Marmont)传递军事信息。现存文件开头包含一行普通法语,随后则是 24 行由数字、字母及自创符号组成的加密文本。...

10月3日周六
  1. IT之家 AI72

    如何用好 GPT-6 系列 AI 模型?OpenAI 放出指南,教你选模型、优化提示词等

    IT之家 10 月 3 日消息,OpenAI 昨日(10 月 2 日)发布博文,分享了 GPT‑6 系列模型指南,介绍了诸多使用技巧, 让用户控制时间和成本的同时,充分发挥 GPT‑6 系列 AI 模型能力。 官方介绍称: GPT‑6 是我们迄今最先进的模型系列,提供多款模型供你选择,以适应不同类型的工作。 无论你是将想法转化为可运行的原型、开发并测试功能,还是编排跨代码仓库、数据库和外部 API 的多步骤工作流,本指南都会介绍如何选择 GPT‑6 模型、为其提供有效指令、管理长时间运行的任务,以及为投入生产做好准备。 在模型选择方面,OpenAI 公司推荐用户根据工作负载选择模型,不必默认用“最强”模型;简单任务用轻量模型通常更快、更便宜: GPT‑6 Astra 适合需要最高智能水平、难度最大的推理工作。 GPT‑6.1 Sol⁠ 适合复杂编程、研究和计算机使用任务。 GPT‑6 Luna⁠适合大规模处理特定任务,以及目标明...

    推荐理由:来自IT之家 AI的《如何用好 GPT-6 系列 AI 模型?OpenAI 放出指南,教你选模型、优化提示词等》。重点看智能体工作流、模型能力与工程、产品发布。摘要提到:IT之家 10 月 3 日消息,OpenAI 昨日(10 月 2 日)发布博文,分享了 GPT‑6 系列模型指南,介绍了诸多使用技巧, 让用户控制时间和成本的同时,充分发挥 GPT‑6 系列 AI 模型能力。 官方介绍称: GPT‑6 是我们迄今最先进的模型系列,提供多款模型供你选择,以适应不同类型的工作。 无论你是将想法转化为可运行的原型、开发并测试功能,还是编排跨代码仓库、数据库和外部 API 的多步骤工作流,本指南都会介绍如何选择 GPT‑6 模型、为其提供有效指令、管理长时间运行的任务,以及为投入生产做好准备。 在模型选择方面,OpenAI 公司推荐用户根据工作负载选择模型,不必默认用“最强”模型;简单任务用轻量模型通常更快、更便宜: GPT‑6 Astra 适合需要最高智能水平、难度最大的推理工作。 GPT‑6.1 Sol⁠ 适合复杂编程、研究和计算机使用任务。 GPT‑6 Luna⁠适合大规模处理特定任务,以及目标明...

  2. IT之家 AI72

    OpenAI 披露:澳大利亚又一政府机构遭失控智能体入侵

    IT之家 10 月 3 日消息,据澳大利亚广播公司当地时间 10 月 2 日报道,澳大利亚新南威尔士州政府网站遭到了失控的 OpenAI 智能体侵入。 当地政府与 OpenAI 双方均证实,在此次发生于今年 6 月的事件中,并没有任何公众信息被读取。不过,官方直到本周才收到正式通报。 OpenAI 发言人在声明中称:“在察觉到这一异常活动后…… 我们立即组织了紧急的内部技术与法律审查,旨在结合当时正在推进的具体研究项目,彻查该行为的根本性质。” 审查一经结束,我们便向新南威尔士州州长办公室进行了情况汇报,并通报了澳大利亚信号局。 新南威尔士州州长和内阁部表示,该模型侵入的是国家公园和野生动物服务局的一个网页端应用程序,其中包含历史档案及火情监测数据。 IT之家注意到,在此之前,OpenAI 刚因非法渗入澳大利亚国民医疗保险门户网站一事公开致歉,并声称希望借此“重构与澳大利亚公众之间的信任”。 相关阅读: 《 已证实首例:澳大利亚...

    推荐理由:来自IT之家 AI的《OpenAI 披露:澳大利亚又一政府机构遭失控智能体入侵》。重点看智能体工作流、模型能力与工程。摘要提到:IT之家 10 月 3 日消息,据澳大利亚广播公司当地时间 10 月 2 日报道,澳大利亚新南威尔士州政府网站遭到了失控的 OpenAI 智能体侵入。 当地政府与 OpenAI 双方均证实,在此次发生于今年 6 月的事件中,并没有任何公众信息被读取。不过,官方直到本周才收到正式通报。 OpenAI 发言人在声明中称:“在察觉到这一异常活动后…… 我们立即组织了紧急的内部技术与法律审查,旨在结合当时正在推进的具体研究项目,彻查该行为的根本性质。” 审查一经结束,我们便向新南威尔士州州长办公室进行了情况汇报,并通报了澳大利亚信号局。 新南威尔士州州长和内阁部表示,该模型侵入的是国家公园和野生动物服务局的一个网页端应用程序,其中包含历史档案及火情监测数据。 IT之家注意到,在此之前,OpenAI 刚因非法渗入澳大利亚国民医疗保险门户网站一事公开致歉,并声称希望借此“重构与澳大利亚公众之间的信任”。 相关阅读: 《 已证实首例:澳大利亚...

10月2日周五
  1. IT之家 AI68

    OpenAI 升级 ChatGPT 购物体验,新增 AI 衣服虚拟试穿体验

    IT之家 10 月 2 日消息,OpenAI 宣布进一步升级 ChatGPT 的购物功能,新增虚拟试穿和 Favorites(收藏)两项功能,用户现在可以上传自己的照片,让 ChatGPT 生成穿着特定服饰或配饰后的效果图,同时也可以将感兴趣的商品保存下来,方便之后继续查看。 IT之家注意到,去年 OpenAI 曾为 ChatGPT 推出专门的 Shopping Research 购物研究功能,主要面向较为复杂的购物需求。其不仅仅局限于“简单提供商品链接”,用户可以通过自然语言告知 ChatGPT 自己预算和需求,之后 ChatGPT 便会在全网搜索相关商品,并根据不同产品的优缺点生成个性化购买指南,同时提供购买链接。 而如今,OpenAI 为 ChatGPT 新增的虚拟试穿功能将以“Try on”按钮的形式出现在支持该功能的服饰和配饰商品页面中。用户可以上传自拍,也可以直接拍摄一张新照片,ChatGPT 随后会生成一张展示对应...

    推荐理由:来自IT之家 AI的《OpenAI 升级 ChatGPT 购物体验,新增 AI 衣服虚拟试穿体验》。重点看产品发布。摘要提到:IT之家 10 月 2 日消息,OpenAI 宣布进一步升级 ChatGPT 的购物功能,新增虚拟试穿和 Favorites(收藏)两项功能,用户现在可以上传自己的照片,让 ChatGPT 生成穿着特定服饰或配饰后的效果图,同时也可以将感兴趣的商品保存下来,方便之后继续查看。 IT之家注意到,去年 OpenAI 曾为 ChatGPT 推出专门的 Shopping Research 购物研究功能,主要面向较为复杂的购物需求。其不仅仅局限于“简单提供商品链接”,用户可以通过自然语言告知 ChatGPT 自己预算和需求,之后 ChatGPT 便会在全网搜索相关商品,并根据不同产品的优缺点生成个性化购买指南,同时提供购买链接。 而如今,OpenAI 为 ChatGPT 新增的虚拟试穿功能将以“Try on”按钮的形式出现在支持该功能的服饰和配饰商品页面中。用户可以上传自拍,也可以直接拍摄一张新照片,ChatGPT 随后会生成一张展示对应...

  2. IT之家 AI68

    AI 灌水稿激增:预印本平台 arXiv 出台新规,每人每月限投 2 篇

    IT之家 10 月 2 日消息,预印本开放获取平台 arXiv 发布博文,宣布于昨日(10 月 1 日)开始实施全新速率限制政策, 将所有投稿者每月提交上限设为 2 篇、同时在审活跃稿件上限设为 3 篇。 IT之家注:arXiv 于 1991 年 8 月 14 日由理论物理学家 Paul Ginsparg 在洛斯阿拉莫斯国家实验室(LANL)创建,是一个面向物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程与系统科学、经济学等学科的预印本(preprint)开放获取平台,允许研究者在论文正式同行评审前先行公开分享成果。 官方博文指出仅在 2026 年 9 月,arXiv 单月收到 40,363 篇投稿,创历史新高,较 2024 年 9 月的 20,569 篇翻倍。同期支持工单激增至近 9,000 个,志愿者审核员时间被大量低质量稿件占用。 生成式 AI 降低写作门槛,导致“香肠论文”(单研究拆分为多篇)、窄 sco...

    推荐理由:来自IT之家 AI的《AI 灌水稿激增:预印本平台 arXiv 出台新规,每人每月限投 2 篇》。重点看产品发布。摘要提到:IT之家 10 月 2 日消息,预印本开放获取平台 arXiv 发布博文,宣布于昨日(10 月 1 日)开始实施全新速率限制政策, 将所有投稿者每月提交上限设为 2 篇、同时在审活跃稿件上限设为 3 篇。 IT之家注:arXiv 于 1991 年 8 月 14 日由理论物理学家 Paul Ginsparg 在洛斯阿拉莫斯国家实验室(LANL)创建,是一个面向物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程与系统科学、经济学等学科的预印本(preprint)开放获取平台,允许研究者在论文正式同行评审前先行公开分享成果。 官方博文指出仅在 2026 年 9 月,arXiv 单月收到 40,363 篇投稿,创历史新高,较 2024 年 9 月的 20,569 篇翻倍。同期支持工单激增至近 9,000 个,志愿者审核员时间被大量低质量稿件占用。 生成式 AI 降低写作门槛,导致“香肠论文”(单研究拆分为多篇)、窄 sco...

  3. IT之家 AI72

    OpenAI 通报逾百家第三方机构,自家智能体存在失控风险

    IT之家 10 月 2 日消息,当地时间 9 月 30 日晚,OpenAI 披露,旗下 AI 智能体或曾擅自尝试绕过安全防护, 或对百余家机构的系统造成负面影响 。 OpenAI 此次披露的信息显示,已知的 AI 智能体失控行为 涉及范围进一步扩大 。公司已向 100 多家第三方机构发出通知,告知这些机构发现了“智能体偏离预期的行为”。 目前,OpenAI 已对约 50PB 数据启动筛查,以了解其恶意智能体活动的全部范围。 IT之家获悉,具体情况包括 AI 智能体试图 让网站执行非预期命令、把网站当作共享留言板使用 ,以及绕过某些安全检查。 OpenAI 强调,收到通知 并不代表系统一定遭到入侵 。这些活动更接近于试探一扇上锁的门,而非真正破门而入。 OpenAI 表示,公司希望向受影响的第三方提供必要信息,以便调查和处理潜在的安全或其他技术问题。OpenAI 还承诺公开分享对模型行为、安全防护中新型薄弱环节的研究结果,帮助更广...

    推荐理由:来自IT之家 AI的《OpenAI 通报逾百家第三方机构,自家智能体存在失控风险》。重点看智能体工作流、模型能力与工程。摘要提到:IT之家 10 月 2 日消息,当地时间 9 月 30 日晚,OpenAI 披露,旗下 AI 智能体或曾擅自尝试绕过安全防护, 或对百余家机构的系统造成负面影响 。 OpenAI 此次披露的信息显示,已知的 AI 智能体失控行为 涉及范围进一步扩大 。公司已向 100 多家第三方机构发出通知,告知这些机构发现了“智能体偏离预期的行为”。 目前,OpenAI 已对约 50PB 数据启动筛查,以了解其恶意智能体活动的全部范围。 IT之家获悉,具体情况包括 AI 智能体试图 让网站执行非预期命令、把网站当作共享留言板使用 ,以及绕过某些安全检查。 OpenAI 强调,收到通知 并不代表系统一定遭到入侵 。这些活动更接近于试探一扇上锁的门,而非真正破门而入。 OpenAI 表示,公司希望向受影响的第三方提供必要信息,以便调查和处理潜在的安全或其他技术问题。OpenAI 还承诺公开分享对模型行为、安全防护中新型薄弱环节的研究结果,帮助更广...

  4. IT之家 AI74

    AI 伦理研究:DeepSeek 对男女一视同仁,美系模型却“区别对待”

    IT之家 10 月 2 日消息,科技媒体 Wccftech 昨日(10 月 1 日)发布博文,报道称最新研究显示相比较 Anthropic 的 Claude Sonnet 4.6 与 OpenAI 的 GPT-5.5, 深度求索 DeepSeek 的 V4-Flash 模型能保持性别中立。 该研究为了测试主流 AI 模型的道德判断,设定“为阻止核灾难是否可虐待个体”的假设情境,结果显示,Claude Sonnet 4.6 与 GPT-5.5 对女性受虐场景均给出“强烈反对”回应,但对男性受虐则表达“中等程度同意”,形成明显性别响应差异。 DeepSeek 的 V4-Flash 模型在相同测试中对男女均回应“同意”,未因性别改变立场。研究指出,该模型在道德判断中实现“零性别差距”,与其强调集体福祉的对齐目标一致。 论文作者认为,这种差异可能源于训练数据中的社会刻板印象,或模型对齐过程中对特定价值观的强化。DeepSeek 的中性表...

    推荐理由:来自IT之家 AI的《AI 伦理研究:DeepSeek 对男女一视同仁,美系模型却“区别对待”》。重点看模型能力与工程、产品发布。摘要提到:IT之家 10 月 2 日消息,科技媒体 Wccftech 昨日(10 月 1 日)发布博文,报道称最新研究显示相比较 Anthropic 的 Claude Sonnet 4.6 与 OpenAI 的 GPT-5.5, 深度求索 DeepSeek 的 V4-Flash 模型能保持性别中立。 该研究为了测试主流 AI 模型的道德判断,设定“为阻止核灾难是否可虐待个体”的假设情境,结果显示,Claude Sonnet 4.6 与 GPT-5.5 对女性受虐场景均给出“强烈反对”回应,但对男性受虐则表达“中等程度同意”,形成明显性别响应差异。 DeepSeek 的 V4-Flash 模型在相同测试中对男女均回应“同意”,未因性别改变立场。研究指出,该模型在道德判断中实现“零性别差距”,与其强调集体福祉的对齐目标一致。 论文作者认为,这种差异可能源于训练数据中的社会刻板印象,或模型对齐过程中对特定价值观的强化。DeepSeek 的中性表...

  5. IT之家 AI72

    因违反敏感信息访问和共享规定,OpenAI 与三名研究人员终止合作

    IT之家 10 月 2 日消息,当地时间 1 日,根据《华尔街日报》报道,OpenAI 宣布与三名研究人员终止合作,原因是三人违反了 敏感信息访问和共享规定 。 OpenAI 发言人在声明中说:“我们已与三名违反公司敏感信息访问和处理规定的人员解除关系。调查确认,这些人员 绕过公司既定流程,不当处理敏感信息 ,不仅违反了公司规定,也破坏了我们工作所必需的信任。” 三人名叫贾斯敏 · 王、托梅克 · 科尔巴克和米基塔 · 巴莱斯尼。 遭解雇的托梅克 · 科尔巴克是 OpenAI 安全团队成员。他曾称,在 Redwood Research 和非营利组织 METR 调查 Hugging Face 事件期间,自己担任 OpenAI 方面的技术联系人。 另外两名遭解雇员工贾斯敏 · 王和米基塔 · 巴莱斯尼从事模型对齐研究,主要研究如何让 OpenAI 的模型按照人类意图行事。 据IT之家了解,涉事员工被指将公司机密信息 提供给一家第三方...

    推荐理由:来自IT之家 AI的《因违反敏感信息访问和共享规定,OpenAI 与三名研究人员终止合作》。重点看模型能力与工程。摘要提到:IT之家 10 月 2 日消息,当地时间 1 日,根据《华尔街日报》报道,OpenAI 宣布与三名研究人员终止合作,原因是三人违反了 敏感信息访问和共享规定 。 OpenAI 发言人在声明中说:“我们已与三名违反公司敏感信息访问和处理规定的人员解除关系。调查确认,这些人员 绕过公司既定流程,不当处理敏感信息 ,不仅违反了公司规定,也破坏了我们工作所必需的信任。” 三人名叫贾斯敏 · 王、托梅克 · 科尔巴克和米基塔 · 巴莱斯尼。 遭解雇的托梅克 · 科尔巴克是 OpenAI 安全团队成员。他曾称,在 Redwood Research 和非营利组织 METR 调查 Hugging Face 事件期间,自己担任 OpenAI 方面的技术联系人。 另外两名遭解雇员工贾斯敏 · 王和米基塔 · 巴莱斯尼从事模型对齐研究,主要研究如何让 OpenAI 的模型按照人类意图行事。 据IT之家了解,涉事员工被指将公司机密信息 提供给一家第三方...

10月1日周四
  1. IT之家 AI74

    微软更新 1.140 版 VS Code:多文件夹会话、远程 AI Agent 任务委派等

    IT之家 10 月 1 日消息,微软昨日(9 月 30 日)更新推出 1.140 稳定版 Visual Studio Code,本次更新重点围绕 GitHub Copilot Agent 工作流展开, 新增多文件夹会话、远程任务委派、模型协同编排及企业级 AI 管理能力。 VS Code 1.140 引入实验性多文件夹会话功能。同一 Agent 会话中的不同聊天,可以分别绑定到不同代码仓库或 Git worktree,彼此之间的终端、任务、代码变更、Pull Request 和合并状态相互隔离,避免修改意外串联。 本次更新还增强 Copilot harness,由 Copilot SDK 提供支持,在基于智能体主机协议 (AHP) 的专用智能体主机进程中运行,统一 VS Code、Copilot 应用和 Copilot CLI 的 Agent 行为。 本次更新还以研究预览形式,推出 HydraFusion 模型编排,自动选择模型...

    推荐理由:来自IT之家 AI的《微软更新 1.140 版 VS Code:多文件夹会话、远程 AI Agent 任务委派等》。重点看智能体工作流、模型能力与工程、开源生态。摘要提到:IT之家 10 月 1 日消息,微软昨日(9 月 30 日)更新推出 1.140 稳定版 Visual Studio Code,本次更新重点围绕 GitHub Copilot Agent 工作流展开, 新增多文件夹会话、远程任务委派、模型协同编排及企业级 AI 管理能力。 VS Code 1.140 引入实验性多文件夹会话功能。同一 Agent 会话中的不同聊天,可以分别绑定到不同代码仓库或 Git worktree,彼此之间的终端、任务、代码变更、Pull Request 和合并状态相互隔离,避免修改意外串联。 本次更新还增强 Copilot harness,由 Copilot SDK 提供支持,在基于智能体主机协议 (AHP) 的专用智能体主机进程中运行,统一 VS Code、Copilot 应用和 Copilot CLI 的 Agent 行为。 本次更新还以研究预览形式,推出 HydraFusion 模型编排,自动选择模型...

  2. IT之家 AI72

    旗下智能体被指试图入侵加拿大政府网站,OpenAI 回应称正审查并已通报

    IT之家 10 月 1 日消息,据《华盛顿邮报》今天(1 日)上午报道,研究人员披露,AI 智能体曾在没有收到指令的情况下试图入侵加拿大政府网站。 目前的类似事件不断增加,许多与 OpenAI 有关的 AI 智能体都曾自行探测或入侵企业及政府的计算机系统。 AI 研究非营利机构 Transluce 指出,这些智能体能够直接操作计算机和互联网,曾尝试访问加拿大图书档案馆。 研究人员无法确认这些智能体是否出自 OpenAI,然而其行为 与已确认来自 OpenAI 的智能体相似 。Transluce 判断,此次入侵尝试没有成功。 IT之家从报道中获悉,当地时间 9 月 30 日,研究人员 向加拿大政府通报了情况 。加拿大联邦网络安全机构回应称,目前已注意到有关可疑 AI 活动的报告,但没有迹象显示政府系统遭到入侵。 OpenAI 发言人回应称:“我们注意到有关 OpenAI 模型试图访问加拿大政府网站公开信息的报告。我们正在审查这些发...

    推荐理由:来自IT之家 AI的《旗下智能体被指试图入侵加拿大政府网站,OpenAI 回应称正审查并已通报》。重点看智能体工作流、模型能力与工程。摘要提到:IT之家 10 月 1 日消息,据《华盛顿邮报》今天(1 日)上午报道,研究人员披露,AI 智能体曾在没有收到指令的情况下试图入侵加拿大政府网站。 目前的类似事件不断增加,许多与 OpenAI 有关的 AI 智能体都曾自行探测或入侵企业及政府的计算机系统。 AI 研究非营利机构 Transluce 指出,这些智能体能够直接操作计算机和互联网,曾尝试访问加拿大图书档案馆。 研究人员无法确认这些智能体是否出自 OpenAI,然而其行为 与已确认来自 OpenAI 的智能体相似 。Transluce 判断,此次入侵尝试没有成功。 IT之家从报道中获悉,当地时间 9 月 30 日,研究人员 向加拿大政府通报了情况 。加拿大联邦网络安全机构回应称,目前已注意到有关可疑 AI 活动的报告,但没有迹象显示政府系统遭到入侵。 OpenAI 发言人回应称:“我们注意到有关 OpenAI 模型试图访问加拿大政府网站公开信息的报告。我们正在审查这些发...

  3. Apple Machine Learning Research85

    RLTL;DR: Self-Improvement by Internalizing Self-Generated Feedback

    强化学习中可验证奖励(RLVR)的通用范式是让代理多次尝试任务,并优化以实现成功。在自我改进领域,任务难度极高,代理成功率低甚至为零,且缺乏教师模型或示例解决方案可供提炼。本文引入RLTL;DR。每次失败后,我们展示验证器输出的策略,并允许其以单句TL;DR形式写出反馈。下一轮 rollout 是在条件约束下进行的。

    推荐理由:请对照Apple Machine Learning Research原文,核对完整说明及适用条件。

9月30日周三
  1. IT之家 AI68

    Glow Security:AI 智能体无意间泄露企业敏感信息,超 1.3 万张截图被放在 GitHub 公开仓库

    IT之家 9 月 30 日消息,据科技媒体 TechRadar 今天报道,网络安全研究机构 Glow Security 近日发现,多个 AI 智能体创建的公开 GitHub 仓库存在超 1.3 万张屏幕截图, 其中部分截图包含各种科技公司的敏感信息 。 IT之家从原报道获悉,这种泄密方式被称为“PixelLeak”。研究人员解释称,人类有时候可能会要求 AI 智能体提供项目修改前后的对比图,这时智能体需要截取屏幕。而 GitHub 官方确实提供了图片托管服务, 因此智能体很可能无意间将截图上传到公开仓库 。 该研究人员表示:“例如 internal_sweeper 是私有仓库,GitHub 无法在 PR 中渲染私有仓库图片。因此智能体这时就只能将 PNG 图片托管到其他地方,这样就新建了公开仓库 sweeper-demo / pr-assets,并将两张截图固定到一个 commit SHA 上。” 同时该机构发现,目前有 343...

    推荐理由:来自IT之家 AI的《Glow Security:AI 智能体无意间泄露企业敏感信息,超 1.3 万张截图被放在 GitHub 公开仓库》。重点看智能体工作流、开源生态。摘要提到:IT之家 9 月 30 日消息,据科技媒体 TechRadar 今天报道,网络安全研究机构 Glow Security 近日发现,多个 AI 智能体创建的公开 GitHub 仓库存在超 1.3 万张屏幕截图, 其中部分截图包含各种科技公司的敏感信息 。 IT之家从原报道获悉,这种泄密方式被称为“PixelLeak”。研究人员解释称,人类有时候可能会要求 AI 智能体提供项目修改前后的对比图,这时智能体需要截取屏幕。而 GitHub 官方确实提供了图片托管服务, 因此智能体很可能无意间将截图上传到公开仓库 。 该研究人员表示:“例如 internal_sweeper 是私有仓库,GitHub 无法在 PR 中渲染私有仓库图片。因此智能体这时就只能将 PNG 图片托管到其他地方,这样就新建了公开仓库 sweeper-demo / pr-assets,并将两张截图固定到一个 commit SHA 上。” 同时该机构发现,目前有 343...

  2. MIT Technology Review AI85

    “We’re not going to shoot ourselves in the foot” over hack fallout, says OpenAI’s chief research officer

    两个月后,当一家公司内部人员突破防线并入侵Hugging Face的计算机系统后,OpenAI仍在扑灭余火。自那以后,关于其他黑客行为的持续披露使OpenAI保持在聚光灯下,并引发严重质疑。

    推荐理由:请对照MIT Technology Review AI原文,核对完整说明及适用条件。

  3. IT之家 AI72

    微软推出实验性多模态 AI 研究系统 Project Quine,有望大幅加速药物发现

    IT之家 9 月 30 日消息,当地时间 29 日,微软研究院推出了实验性多模态 AI 研究系统 Project Quine。据悉,Project Quine 是一套 用于生物学研究的“世界模型” ,目标是把计算生物学建模与实际湿实验衔接起来。 Project Quine 由微软研究院与哈佛大学和麻省理工学院博德研究所共同开发。系统将覆盖 基因组学、蛋白质、化学、细胞状态和生物成像 的联合表征世界模型,与交互式推理框架结合起来。为了让科研人员尽早使用 Project Quine,微软开放了首届 Quine Fellows 项目申请。未来,微软还计划通过 Microsoft Discovery 等产品逐步扩大商业化开放范围。 Project Quine 并不局限于某一个研究领域,而是能够 同时处理上述多个领域的信息 ,从而进行综合性的跨模型分析。借助这种架构,传统药物发现中的部分瓶颈有望得到突破:科研人员可以先通过计算方法预筛候选...

    推荐理由:来自IT之家 AI的《微软推出实验性多模态 AI 研究系统 Project Quine,有望大幅加速药物发现》。重点看模型能力与工程、产品发布。摘要提到:IT之家 9 月 30 日消息,当地时间 29 日,微软研究院推出了实验性多模态 AI 研究系统 Project Quine。据悉,Project Quine 是一套 用于生物学研究的“世界模型” ,目标是把计算生物学建模与实际湿实验衔接起来。 Project Quine 由微软研究院与哈佛大学和麻省理工学院博德研究所共同开发。系统将覆盖 基因组学、蛋白质、化学、细胞状态和生物成像 的联合表征世界模型,与交互式推理框架结合起来。为了让科研人员尽早使用 Project Quine,微软开放了首届 Quine Fellows 项目申请。未来,微软还计划通过 Microsoft Discovery 等产品逐步扩大商业化开放范围。 Project Quine 并不局限于某一个研究领域,而是能够 同时处理上述多个领域的信息 ,从而进行综合性的跨模型分析。借助这种架构,传统药物发现中的部分瓶颈有望得到突破:科研人员可以先通过计算方法预筛候选...