OpenAI前安全员工离职批评公司文化
一名近期离职的OpenAI安全员工批评该公司的人工智能安全策略，认为其快节奏、重开发的文化增加了失败风险。大卫·罗宾逊在《大西洋月刊》发表的文章中表示，包括OpenAI在内的AI公司“不够谨慎”，应在开发更强大系统前更重视安全专业知识和研究。他称“试错的时代已经结束”，先进AI系统需要类似核能和航空业的保障措施。罗宾逊称在OpenAI工作三年半，曾参与起草公司 preparedness 框架，并监督12次前沿模型发布的安全报告。OpenAI发言人回应称，公司确保模型能力不超过可安全管理和保障的范围，必要时会暂停训练或暂缓发布模型。罗宾逊还警告，AI能力进步快于研究人员对对齐问题的理解。
一名近期离职的OpenAI安全员工批评该公司的人工智能安全策略，认为其快节奏、重开发的文化增加了失败风险。大卫·罗宾逊在《大西洋月刊》发表的文章中表示，包括OpenAI在内的AI公司“不够谨慎”，应在开发更强大系统前更重视安全专业知识和研究。他称“试错的时代已经结束”，先进AI系统需要类似核能和航空业的保障措施。罗宾逊称在OpenAI工作三年半，曾参与起草公司 preparedness 框架，并监督12次前沿模型发布的安全报告。OpenAI发言人回应称，公司确保模型能力不超过可安全管理和保障的范围，必要时会暂停训练或暂缓发布模型。罗宾逊还警告，AI能力进步快于研究人员对对齐问题的理解。