OpenAI开始训练新AI模型，瞄准人类认知等级AGI

darthracer · 2024-7-14 23:41

OpenAI董事会宣布成立由董事Bret Taylor（董事长）、Adam D'Angelo、Nicole Seligman以及首席执行官阿特曼（Sam Altman）领导的安全和安全委员会。这个委员会将负责就OpenAI计划、运营的关键安全决策向全体董事会提出建议。

OpenAI表示，最近开始训练下一个前沿模型、预估随后诞生的系统将在通往通用人工智能（AGI）道路上提升至下一个能力水准。

英国金融时报报道，OpenAI全球事务副总裁Anna Makanju受访时表示，OpenAI的使命是“打造等同人类现有认知能力”的AGI、而非超级智能，AGI目前尚未诞生、在确保安全无虞之前不会发布。所谓的超级智能是一种比人类聪明好几倍的技术。

阿特曼去年11月告诉英国金融时报，他将五成的时间用于研究如何打造超级智能。OpenAI发言人Liz Bourgeois表示，OpenAI的使命是造福人类的AGI、而非超级智能。她说，为了实现AGI，OpenAI同时也研究比AGI更聪明的超级智能，两者之间并不冲突。

时任OpenAI校准团队共同负责人的Ilya Sutskever、Jan Leike去年7月指出，超级智能将是人类发明的最具影响力科技、可以协助人类解决世界上许多最重要的问题，但超级智能的巨大力量可能是非常危险的、或将导致人类丧失权力，甚至导致人类灭绝。

Sutskever、Leike在今年5月中旬先后宣布辞职。

微软（Microsoft）、Anthropic、Google以及OpenAI于去年7月宣布成立“前沿模型论坛（Frontier Model Forum）”、一个专注于确保前沿人工智能（AI）模型安全与负责任开发的产业机构。所谓的前沿模型指的是、超越现有最先进模型能力并且可以执行各种任务的大规模机器学习模型。

OpenAI开始训练新AI模型，瞄准人类认知等级AGI

浏览过的版块