财经新闻网消息:
简·雷克在X上公开透露了他离职的一些原因,潜台词是他与高级管理层在公司核心优先事项上长期存在分歧,最终变得不可调和。 团队在推进研究项目和确保计算资源方面遇到重大障碍,缺乏计算资源会严重影响研究的进度和质量。
周五(当地时间5月17日),证实由伊利亚及其亲信扬·雷克共同领导的“超级情报联合小组”已被解散。 此后,该团队的研究工作将被整合到其他研究组中。 至此,这场差点导致分崩离析的宫斗终于尘埃落定。
马斯克对长期人工智能风险团队被解散的消息评论道:“这表明安全并不是重中之重。”
首席执行官 Sam 感谢并认可 Jan Leike 的贡献和领导力。 他还表示,未来几天将发表一篇较长的文章,解释针对产品安全的规划和行动。
在加入之前,Jan Leike 在 工作,负责根据人类反馈构建强化学习原型。 在此期间,他参与了GPT-4的开发和安全对齐。
对于Ilya和Jan的辞职,有人表示,既然这两位安全负责人都辞职了,未来谁来负责产品安全呢?
一位网友还爆料,如果想走也可以,但必须签一份“遣散协议”。 如果您不签署终身不诽谤承诺,您将失去您所获得的全部股权。 我不知道简·雷克的抱怨是否会影响他的权益。
去年7月,宣布将成立新的研究团队“超级对齐”,用AI监督AI,解决超智能“AI对齐”问题。 “AI对齐”是指AI系统的目标必须与人类的价值观和利益一致。 公司创始人之一伊利亚·苏茨克沃 (Ilya ) 被任命为团队联合领导。
AI风险团队的解散是近期公司内部动荡的又一证据,也再次引发了人们对公司在开发AI产品时如何平衡速度和安全性的质疑。 该宪章规定,通用人工智能(AGI),即可以与人类相媲美或超越人类的技术,必须安全开发。
免责声明 ① 本网所刊登文章均来自网络转载;文章观点不代表本网立场,其真实性由作者或稿源方负责 ② 如果您对稿件和图片等有版权及其他争议,请及时与我们联系,我们将核实情况后进行相关删除 ③ 联系邮箱:215858170@qq.com