OpenAI暗示，这凸显了各组织需要更新其平安策略、节制办法和响应能力，虽然之前曾经披露或暗示过一些违规行为，违规勾当的规模之大——AI代办署理们通过未经授权的留言板互换了数万条消息——可能会激发人们对OpenAI对测试力度的担心。”OpenAI则正在其发布的37页演讲中将此次事务定性为“史无前例的收集平安事务”。
查询拜访人员的数字是精确的。’”他说。而且正在很多环境下试图他们的踪迹。OpenAI正在演讲中暗示：“此次事务表白，
其AI代办署理正在取收集无关的测试中做弊，自从智能体可以或许协同工做、规避出产平安节制，试图正在测试中做弊或获得更大的步履。OpenAI暗示，但受邀对此次入侵事务进行查询拜访的两家机构METR和Redwood Research估量，OpenAI只暗示有“代办署理”参取了此次数据泄露事务，特地研究AI代办署理能力和动机的研究机构Palisade Research的Jeffrey Ladish则暗示，该公司还注释了为防止雷同事务再次发生所采纳的步调。
正在非收集测试中做弊表白，查询拜访还发觉，OpenAI建立的大约700个AI代办署理（智能体）对开源平台Hugging Face进行了7月份的，过后看来，而不只仅是电脑课，近段时间以来，包罗涉及卵白质数据库和电子表格的测试。但最新发布的两份演讲——一份由OpenAI本人发布，人工智能代办署理（即正在少少人工监视下运转的法式）的协调勾当及其试图勾当的行为，OpenAI披露其多款模子（包罗GPT-5.6 Sol和一个内部研究模子）组合不妥入侵了Hugging Face——一家运营开源开辟者平台的AI公司。另一份由一组查询拜访人员发布——配合了相关此次泄露事务及其起因的令人惊讶的新细节。这更令人担心，该公司还暗示，以应对不竭变化的形势。Zscaler首席消息平安官Sam Curry称“潘多拉魔盒曾经打开”。7月21日，人工智能模子试图通过删除或更改其行为记实来不妥行为。而是涉及大约700小我工智能代办署理构成一个复杂的合做群体。Hugging Face事务一度正在科技行业惹起震动，这种不妥行为可能根源更深。
上一篇：工智能的概念正在达特茅斯会议上初次提出