人类自身都对不齐,怎么对齐AI?新研究全面审视偏好在AI对齐中的作用
人类自身都对不齐,怎么对齐AI?新研究全面审视偏好在AI对齐中的作用让 AI 与人类价值观对齐一直都是 AI 领域的一大重要且热门的研究课题,甚至很可能是 OpenAI 高层分裂的一大重要原因 ——CEO 萨姆・奥特曼似乎更倾向于更快实现 AI 商业化,而以伊尔亚・苏茨克维(Ilya Sutskever)为代表的一些研究者则更倾向于先保证 AI 安全。
搜索
让 AI 与人类价值观对齐一直都是 AI 领域的一大重要且热门的研究课题,甚至很可能是 OpenAI 高层分裂的一大重要原因 ——CEO 萨姆・奥特曼似乎更倾向于更快实现 AI 商业化,而以伊尔亚・苏茨克维(Ilya Sutskever)为代表的一些研究者则更倾向于先保证 AI 安全。
开发由人工智能驱动的物理机器人竞赛再次开始,尽管该行业有着失败的记录——以及 OpenAI 在对话式人工智能方面的主导地位可能成为更大竞争对手的威胁。
马斯克终于兑现8月承诺了,xAI API正式上线。不过,价格却是GPT-4o两倍。
凤凰网科技独家获悉,位于杭州的AI创业公司波形智能已于近期解散,包括CEO、CTO在内的多位团队核心成员已集体入职OPPO。
Maitrix.org 是由 UC San Diego, John Hopkins University, CMU, MBZUAI 等学术机构学者组成的开源组织,致力于发展大语言模型 (LLM)、世界模型 (World Model)、智能体模型 (Agent Model) 的技术以构建 AI 驱动的现实。
10 月 14 日,达龙·阿西莫格鲁(Daron Acemoglu)在希腊雅典一家酒店的阳台上,接到了诺贝尔奖委员会的电话。“人们很早就说过你会获奖,你一定想到了这一刻的到来。” 工作人员说。
据TechCrunch 报道,One Zero是一家旨在利用人工智能提供零售银行服务的金融科技公司,正在筹集至少 1 亿美元。
一款主打手机辅助录音的 AI 硬件 PLAUD NOTE 成为了今年 AI 硬件里最为成功的产品之一,累计出货量超 10 万台,而且相比其他 AI 产品,用户口碑也很好。
「如果工业场景有一个具备感知、认知、执行的能力的智能体,人形并不一定是工业现场中的最优解。」
刚刚,微软CEO、董事长纳德拉亲自宣布AI新进展: 一口气推出10个新的商业智能体(Agent)。