真机强化学习如何保证安全性？清华团队提出安全探索均衡机制
真机强化学习如何保证安全性？清华团队提出安全探索均衡机制近日清华大学于IEEE TPAMI发表论文，探讨了真机强化学习的安全性保障问题，提出了一套「安全探索均衡」新型机制，揭示了安全探索的理论最大边界，并攻克了其收敛性证明难题。
来自主题: AI技术研报
7622 点击 2026-06-24 16:03
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
近日清华大学于IEEE TPAMI发表论文，探讨了真机强化学习的安全性保障问题，提出了一套「安全探索均衡」新型机制，揭示了安全探索的理论最大边界，并攻克了其收敛性证明难题。
大模型推理能力越来越强，但答案对了，思考过程就一定好吗？
今天，字节跳动旗下AI应用豆包正式推出专业版以及对应收费方案。豆包专业版基于最新的豆包2.1系列大模型，将提供更高的生产力场景使用额度，以及接入豆包2.1 Pro模型的全新“办公任务”模式。免费用户可以体验接入豆包2.1 Turbo模型的办公任务模式。
前一阵见的尽是疯狂bro。做性爱机器人的Somina lab彻底炒作起来了，我看好几个媒体专程去帮bro炒作，还长篇大论宛如写社会学小作文一般分析卧室亲密具身情感陪伴。
刚刚，Claude Code迎来一次重大升级。
海内外资本正在同步加码AI宠物硬件。AI情绪翻译项圈Traini斩获英伟达、谷歌、Meta等高管的投资，国内的MOVA、Pettichat、PurrPurr、SATELLAI、Loona今年也接连吸金。
6月17日，X 上 OpenAI Codex 团队负责人 Tibo（@thsottiaux）发了一条推文，提醒大家 Codex App、CLI 和 SDK 现在可以接任何开源模型，不只限于 OpenAI 自己的模型。
客户包括Cursor、Mercor、Lovable、Notion，营收同比增长约20倍。
6 月 23 日，腾讯云发布全新边缘 Web 与 AI Agent 托管平台 Tencent Cloud EdgeOne Makers（以下简称Makers），进一步强化面向Agent时代的 AI 全链路布局。
硬氪获悉，雪梦未来（SnowOrigin）团队获得龚虹嘉、陆奇及海外机构投资。这支北大背景团队以sEMG（表面肌电）运动神经信号解码技术为切入点，通过神经腕带、第一视角采集设备以及自研NMH（Neural Math Hybrid）AI解码模型，构建新一代面向具身智能的人类操控数据采集方案。