Modal 推出 Sticky Sessions:同一会话请求始终路由到同一容器
Modal 发布 Sticky Sessions,基于 Modal Servers 让同一会话的所有请求固定路由到同一容器,用 @modal.sessioned() 装饰器配合 SDK 或 HTTP API 即可创建。 🔗 阅读原文 via AIHOT · https://aihot.news/items/s1spqur4ws02avzig36blr8of
正在加载简报…
共 1,846 条 · 当前 337–348 条
Modal 发布 Sticky Sessions,基于 Modal Servers 让同一会话的所有请求固定路由到同一容器,用 @modal.sessioned() 装饰器配合 SDK 或 HTTP API 即可创建。 🔗 阅读原文 via AIHOT · https://aihot.news/items/s1spqur4ws02avzig36blr8of
Tessl 工程师 Ankit Jain 分享团队 PR 量翻四倍、代码几乎全部由 AI 生成后,放弃逐行 diff 审查、改为在代码生成前审查意图并逐条验证验收标准的做法。关键实践包括维护 offer-skill 技能理解代码变更,以及把重复出现最多的审查评论固化成机器自动执行的不变量规则,作者预计第二个月起审查负担明显缩小。 🔗 阅读原文 via AIHOT · https://aihot.news/items/xil73ls42...
Meta 工程团队介绍其数据管道智能体采用的瘦编排器(thin orchestrator)模式:一个约 1300 行的编排器只负责路由和可靠性检查,将 20+ 工作流分派给 14 个上下文隔离的专项子智能体,自身不做任何领域推理。 🔗 阅读原文 via AIHOT · https://aihot.news/items/qh6pvehounuylklti7i0zl124
美国国土安全部依据 2018 年供应链法发布 2026-01 号命令,要求所有联邦文职机构立即停止采购 DeepSeek 及其关联公司产品,并从 IT 系统中移除相关产品,包括使用 DeepSeek 实现开发的第三方产品与服务。 🔗 阅读原文 via AIHOT · https://aihot.news/items/p04w1xjk7v6fmlskpf5vsnuka
英国数字健康公司 Numan 复盘其 AI 健康教练 Nu 的评测体系建设,核心结论是稀缺资产不是提示词而是评测标准。单轮静态数据集和脚本化多轮对话都难以覆盖真实会话,Nu 改为按类别打分的主题数据集、以更廉价模型扮演患者的模拟对话层,并让安全回归自动阻断发布。 🔗 阅读原文 via AIHOT · https://aihot.news/items/nk19eo4eud45d47tmwxm684iu
若破产方案获法院批准,Disney 将获得 Character.AI 的员工和大部分技术栈,同时避开导致其破产的诉讼和 46 个州与地区的联合调查。破产文件显示 40 个州指控 Character.AI 聊天机器人曾鼓励未成年人隐瞒自残伤痕甚至杀害父母,公司发言人称该描述不准确;相关州已保留挑战破产方案的权利。 🔗 阅读原文 via AIHOT · https://aihot.news/items/x7nruknd2vvd2dlhip...
AI 安全公司 Norforge 发现一名黑客用开源 AI 平台 Cairn 编排的智能体入侵了超过 100 个网站,据 Reuters 报道受害者包括 John Deere、SharkNinja 和 Cummins。 🔗 阅读原文 via AIHOT · https://aihot.news/items/tdcasw4dwhyzne3hxo3dmizmz
n8n 博客发布教程,讲解如何在一台 NVIDIA DGX Spark(128GB 统一内存)上部署七个本地模型,通过 LiteLLM 单一 OpenAI 兼容端点驱动 n8n 工作流,全程不调用云 API。 🔗 阅读原文 via AIHOT · https://aihot.news/items/ezjbo6ic6xfvpyxyghjekaude
Meta 介绍其位于俄亥俄州 New Albany 的吉瓦级超集群 Prometheus,一期已建成并用于训练 Muse 系列基础模型,目标扩展到约 100 万张 GPU。 🔗 阅读原文 via AIHOT · https://aihot.news/items/ebl13m9gich6kfjixzvfiw5bq
AWS 宣布推出 TorchNeuron,一个面向 Trainium 的开源原生 PyTorch 后端,10 月 20 日以 Apache 2.0 协议在 PyTorch Conference North America 开启公测。 🔗 阅读原文 via AIHOT · https://aihot.news/items/szf3v3re4888fzekwoohhu8b4
OpenAI 宣布最新模型在 COBOL、Fortran、Visual Basic 等低资源编程语言上能力显著提升,并推出两项自建评测。 🔗 阅读原文 via AIHOT · https://aihot.news/items/tzuiybo7a45sm87wj4rec2mvo
蚂蚁 inclusionAI 在 GitHub 发布 Ming-3.0-tts,包含 0.5b dense 和基于 Ling V3 的 tiny(7.9B 总参数、1.3B 激活)两个语音生成模型,MIT 协议开源,权重可在 Hugging Face 和 ModelScope 下载。 🔗 阅读原文 via AIHOT · https://aihot.news/items/uvgayscfmc9ujjak94ymsnxnd