跳到正文

技术方向

部署工程 最新动态

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

37 条精选近 30 天 20 条共收录 548 条

更新

精选归档 · 第 2 页

9月30日周三第 31–37 条
  1. Apple Machine Learning Research87

    SCLATE: A Substrate for Continual-Learning Agent Training and Evaluation

    持续学习代理是系统模型、套件和记忆,运行在长时多会话 horizon 上。评估和训练它们需要将任务与代理侧事件(如会话停止、启动、cron 和记忆巩固)交错。现有基准和训练框架仅调度基准自身事件,使每个基准和代理对自行构建定制调度循环。我们提出 SCLATE,一种执行基础,基准和未修改的代理各自通过适配器向一个开放事件调度器添加其事件。混合模拟时钟...

    推荐理由:请对照Apple Machine Learning Research原文,核对完整说明及适用条件。

  2. GitHub Changelog94

    GPT-6.1 Sol in GitHub Copilot

    GPT-6.1 Sol,OpenAI最新模型,现已普遍可用并逐步推出至GitHub Copilot。可用于具有强多步骤的代理编码和终端工作流。GitHub Copilot中GPT-6.1 Sol的帖子最早出现在The GitHub Blog。

    推荐理由:请对照GitHub Changelog原文,核对完整说明及适用条件。

9月29日周二
  1. GitHub Changelog92

    Claude Sonnet 5.5 in GitHub Copilot

    Claude Sonnet 5.5,Anthropic’s newest Sonnet model,现已在GitHub Copilot中一般可用。该模型专为日常工作任务如构建功能和修复错误而设计。在我们早期… 《Claude Sonnet 5.5 在GitHub Copilot中的发布》首先出现在GitHub博客上。

    推荐理由:请对照GitHub Changelog原文,核对完整说明及适用条件。

  2. Claude Code Releases90

    Claude Code Releases v2.1.284:Added Claude Sonnet 5.5 ( claude-sonnet-5-5 ), now the def...

    新增了Claude Sonnet 5.5 (claude-sonnet-5-5),现为Anthropic API默认Sonnet模型,1M上下文token,$2/$10每Mtok读取成本,$0.20/Mtok缓存读取成本。新增了自动模式提示的“是,下次再问”回答,允许单次读取仍可后续提问。新增了Claude应用网关支出限额及状态行的美元金额,如“$271.40 / $500.00本月已支出”。新增了努力度滑块的减少/增加/切换Ultracode快捷键操作,可将/effort滑块箭头及Tab键在keybindings.json中重映射。新增了/rate-limit-options至/help和命令菜单,用于Claude.ai用户,提示信息指向可找到的命令。

    推荐理由:请对照Claude Code Releases原文,核对完整说明及适用条件。

9月26日周六
  1. Claude Code Releases90

    Claude Code Releases v2.1.283:Added x-claude-code-prompt-id to the gateway hint headers ...

    新增了x-claude-code-prompt-id到网关提示头,使LLM网关可按用户提示分组请求;启用CLAUDE_CODE_GATEWAY_HINT_HEADERS=1,新增可用模型匹配设置,支持'exact'模式,仅允许该模型版本,新版本需待列表确认;新增禁止模型设置,即使可用模型允许,也可阻止特定模型;新增MCP工具、WebFetch和WebSearch输出至tool.output;当OTE_LOG_TOOL_CONTENT=1时,开启OpenTelemetry跨度事件;新增/doctor prompt-audit(也含/checkup prompt-audit)功能,审计CLAUDE.md文件、技能、代理及指令,用于旧模型提示模式;在全屏模式中,新增点击展开截断消息功能;新增路径至--plugin-dir,加载流-json系统/init plugin_errors,命名未加载的目录;启用load_test_mode选项,可选开启测试模式。

    推荐理由:请对照Claude Code Releases原文,核对完整说明及适用条件。

  2. GitHub Changelog90

    GitHub Copilot weekly releases — September 21

    本周发布的新版本向Copilot添加了新模型,增强了Copilot应用的本地沙箱功能,并更新了Copilot在Slack、Microsoft Teams、JetBrains和VS Code中的表现。GitHub Copilot Claude Opus的周报——九月21首次出现在GitHub博客上。

    推荐理由:请对照GitHub Changelog原文,核对完整说明及适用条件。