OpenAI升级AI安全防御:开展内部安全冲刺,关键漏洞赏金最高达17.2万美元
金十数据11月3日讯,随着人工智能在发现漏洞方面的能力日益增强,OpenAI正采取行动,确保防御者能赶在攻击者之前利用这些能力。OpenAI宣布,正在规划下一场内部安全冲刺,并已与Cathedral Systems建立合作。根据合作安排,Cathedral Systems的研究人员将利用OpenAI的模型,与OpenAI团队并肩作战,共同挑战并检验其防御体系。OpenAI表示,这将为团队带来差异化的专业知识和独特方法,助力持续利用AI发现并修复系统弱点。除了强化外部合作,OpenAI也在加大对安全研究人员的激励力度。公司宣布将提高漏洞赏金奖励,其中关键安全发现的奖励将提高至原来的四倍以上。表现杰出的安全发现最高可获得17.2万美元(含奖金)。OpenAI强调,公司将继续推进模型能力,利用AI强化自身系统,并进一步扩大可信防御者的访问权限。