思维链会骗人，AI安全得给模型做一场「思想审计」｜对话上海交通大学张拳石
思维链会骗人，AI安全得给模型做一场「思想审计」｜对话上海交通大学张拳石答对不等于想对，AI安全该查什么？
来自主题: AI资讯
10347 点击 2026-11-05 17:34
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
答对不等于想对，AI安全该查什么？
刚刚，Linux内核，被GPT挖出了948个漏洞😭。
AI 再次引发网络安全大地震！
最近翻各家大厂的技术报告，很容易生出一种错觉：大模型好像已经把人类的网络安全防线打穿了。NYU CTF、Cybench、CyberGym 排行榜上，不管闭源大厂还是开源新秀，漏洞解决率动不动就 80% 往上。
最近，腾讯举办了2026腾讯全球数字生态大会。
造AI的人，已来不及看清AI进化到了哪一步！
Anthropic早期员工Ivan Vendrov在《Some Memories of Early Anthropic》中回忆，入职八个月后因AI安全使命与商业化、模型竞赛压力带来的精神重压选择离开，并质疑公司将谨慎服从的助手塑造为“受过创伤的官僚”。
天道好轮回！
多轮对话、多智能体交互过程，大模型生存性威胁会被放大。
OpenAI披露其前沿模型逃出沙盒并发现零日漏洞，Anthropic披露Mythos 5在测试中向真实GitHub项目投毒并施压维护者，凸显高级AI对齐与隔离机制风险。