OpenAI再失高层,Jan Leike离职揭示公司安全文化缺失

【HowToTech科技】5月21日消息,近日,OpenAI公司再次发生高层人事震动。继公司共同创始人Ilya Sutskever离职之后,另一名高管Jan
Leike也在社交平台X上宣布了自己的离职。Leike此前担任OpenAI旗下重要的Superalignment(超级对齐)团队共同主管。

Jan
Leike在离职声明中坦言,近年来OpenAI在发展过程中逐渐忽视了内部文化和AI安全准则,转而过度追求推出引人注目的新产品。他对此表示担忧,并认为公司应该将更多的精力放在AI安全研究上。Leike透露,他当初选择加入OpenAI,正是因为看中该公司是进行AI安全研究的最佳场所。然而,现在领导层似乎已经将模型的安全性抛诸脑后,转而将盈利和计算资源的获取作为首要任务。

据了解,OpenAI在2023年7月成立了Superalignment团队,旨在确保具备超级智能的AI系统能够遵循人类的意愿。当时,公司承诺在未来四年内投入20%的计算资源来保障AI模型的安全性。但遗憾的是,据彭博社报道,OpenAI目前已经解散了该团队。

针对Leike的离职和批评,OpenAI的Greg Brockman和Sam
Altman联名回应称,他们已经提高了对AI风险的认知,并承诺未来会不断加强安全工作,以应对每款新模型可能带来的利害关系。他们表示,OpenAI始终致力于确保AI技术的安全和可持续发展。

大鱼的头像

这个人很懒,什么都没有留下~

延伸阅读:

OpenAI 测试长输出版 GPT-4o:单次输出达64K tokens

【HowToTech科技】8月1日消息,OpenAI在7月29日透露,他们正在对一款名为GPT-4o Long Outp...

大鱼的头像
大鱼
2024 年 8 月 1 日
ISC.AI2024数字安全峰会:360、华为、微软等共话安全+AI新挑战

7月31日,ISC.AI 2024数字安全峰会在北京国家会中心顺利召开。峰会以“打造安全大模型,引领安全行业革命”为主题...

大鱼的头像
大鱼
2024 年 7 月 31 日
ISC.AI2024开幕 周鸿祎发布国内首个免费安全大模型

“把大模型拉下神坛就要把免费贯彻到底,今天我在行业里第一个宣布安全大模型免费。”7月31日,ISC.AI2024第十二届...

大鱼的头像
大鱼
2024 年 7 月 31 日
阿里通义免费开放奥运AI大模型

7月31日,阿里通义宣布免费开放奥运AI大模型,具备最强奥运专业知识,并集合同声传译级别的中法互译功能。即日起,用户可以...

大鱼的头像
大鱼
2024 年 7 月 31 日
实时对话更自然,OpenAI 向部分付费订阅用户开放 GPT-4o 语音模式

【HowToTech科技】7月31日消息,OpenAI于当地时间30日宣布,即日起GPT-4o的语音模式(注:Alpha...

大鱼的头像
大鱼
2024 年 7 月 31 日