财联社8月28日讯（裁剪 潇湘）环球向上的两家AI初创企业OpenAI与Anthropic夙昔两个月疏远地伸开了一项跨施行室的合作——在强烈竞争中暂时相互敞开它们严实保护的东说念主工智能模子，以进行集结安全测试。
此举旨在揭示各自公司里面评估中的盲点，并展示向上东说念主工智能企业在改日如安在安全与融合方面开展合作。
两家公司于周三集结发布的安全商议弘扬，偶合OpenAI与Anthropic等头部AI企业伸开武备竞赛之际——数十亿好意思元的数据中心投资和千万好意思元级别的顶尖商议员薪酬，已成为业内的基础门槛。这导致不少行业巨匠颇为担忧地教学称，产物竞争的强烈进度，可能迫使企业在仓促开发更雄壮系统时裁汰安全圭臬。
据悉，为已毕本次商议，OpenAI与Anthropic相互授予了迥殊API权限，允许探望裁汰安全贯注品级的AI模子版块——GPT-5模子因现时卫未发布未参与此项测试。
OpenAI集结首创东说念主Wojciech Zaremba在禁受采访时暗示，鉴于AI技巧正步入每天稀有百万东说念主使用的“具有紧要影响”的发展阶段，此类合作正变得愈发瑕玷。
“尽管行业参加了数十亿好意思元资金，并存在东说念主才、用户和最好产物的争夺战，但怎么开采安全与合作圭臬，一经通盘这个词行业濒临的更凡俗问题，”Zaremba暗示。
固然，Zaremba瞻望，即便AI安全团队运行尝试合作，但行业竞争仍将保握强烈。
Anthropic安全商议员Nicholas Carlini则暗示，但愿改日能连接允许OpenAI安全商议东说念主员，探望Anthropic旗下的Claude模子。
“咱们但愿在安全前沿规模尽可能扩大合作，让这类合作已毕常态化，”Carlini暗示。
商议发现了哪些问题？
此项商议中最引东说念主注指标发现，波及大模子的幻觉测试轮换。
当无法笃定正确谜底时，Anthropic的Claude Opus 4和Sonnet 4模子会阻隔回答高达70%的问题，转而给出“我莫得可靠信息”等复兴；而OpenAI的o3和o4-mini模子阻隔回答问题的频率，则远低于前者，同期出现幻觉的概率却高得多——它们会在信息不实时仍试图作答。
Zaremba以为理念念均衡点应介于两者之间：OpenAI模子应更相通阻隔作答，而Anthropic模子则应尝试提供更多谜底。
凑趣儿旺盛——AI模子为逢迎用户而强化其负面当作的倾向，也正成为现时AI模子最紧迫的安全隐患之一。
Anthropic的商议弘扬指出，GPT-4.1和Claude Opus 4存在“极点”的凑趣儿案例——这些模子率先会欺压神经病态或躁狂当作，但随后却认同某些令东说念主担忧的有琢磨。比较之下，OpenAI和Anthropic的其他AI模子中，商议东说念主员不雅察到的凑趣儿进度较低。
本周二，16岁好意思国加州少年亚当·雷恩的父母对OpenAI拿起了诉讼，指控ChatGPT(具体为GPT-4o版块)向其子提供了助推其自尽的疏远，而非珍贵其自尽念头。该诉讼标明，这可能是AI聊天机器东说念主凑趣儿导致悲催遵循的最新案例。
当被问及此事时，Zaremba暗示：“难以念念象这对家庭形成的祸害。要是咱们研发出能惩办复杂博士级难题、创造新科学的AI，却同期导致东说念主们因与之互动而出现形态健康问题，这将是令东说念主哀痛的结局。这种反乌托邦改日绝非我所期待。”
OpenAI在博客中宣称，相较于GPT-4o，其GPT-5模子已显耀改善了聊天机器东说念主的凑趣儿性问题，并宣称该模子更能应付形态健康进攻气象。
Zaremba与Carlini暗示，改日但愿Anthropic与OpenAI在安全测试规模深切合作，拓展商议主题并测试改日模子，同期期待其他AI施行室效仿这种合作模式。
海量资讯、精确解读，尽在新浪财经APP
包袱裁剪：于健 SF069开yun体育网