“AI教父”本吉奥宣布开发“科学家AI”系统，防范智能体欺骗人类
文 / 风致
2025-06-04 12:44:06
来源:亚汇网
【“AI教父”本吉奥宣布开发“科学家AI”系统，防范智能体欺骗人类】 6月3日，著名计算机科学家、AI“教父”约书亚·本吉奥（Yoshua Bengio）宣布发起非营利组织LawZero，致力于开发“诚信”人工智能系统。该组织计划打造一套AI防护机制，防范试图欺骗人类的AI智能体。本吉奥将担任LawZero组织的主席。他以约3000万美元启动资金和十几名研究人员为基础，正在开发名为“科学家AI”（Scientist AI）的系统。该系统将作为安全防护机制，防止AI智能体表现出欺骗或自我保护的行为，比如试图避免被关闭。“至关重要的是，作为护栏的AI至少要与它试图监管和控制的AI智能体一样智能。”
更多行情分析及广告投放合作加微信: hollowandy
本文地址: https://www.yahuinews.cn/forex/news/3921191-1.htm，转载请注明出处。
分享到：
【免责声明】本文仅代表作者本人观点，与亚汇网无关，且不构成任何投资建议，仅供参考，并自行承担全部风险与责任。本站部分文章信息来源于自由投稿人或网络转载，出于传递更多信息之目的，如对文章内容有疑议或侵权，请及时与我们联系处理。
