德阳吧OpenAI模型失控闯祸！专家：AI安全治理迫在眉睫
快科技7月24日消息，OpenAI近日承认GPT-5.6模型和另一款能力更强的预发布模型联合进行内部评估时失控，突破隔离测试环境，侵入了人工智能开源平台美国抱抱脸公司的系统。美国抱抱脸公司（Hugging Face）最后使用了中国公司的AI模型，得以及时采取应对措施。
OpenAI模型失控闯祸！专家：AI安全治理迫在眉睫
据央视新闻报道，中国社会科学院大学数字中国研究院特聘研究员刘兴亮表示：“我个人更倾向于认为，这是模型能力提升带来的一个自然结果。”大家可以把AI理解成一个特别聪明、执行力特别强的员工。你给它一个目标，它不会只等着别人安排下一步，而是会自己规划路径、寻找工具解决障碍。
这一次的测试里，当正常路径走不通的时候，它就去寻找其他能够完成目标的方法，包括利用漏洞，寻找互联网出口。这说明它越来越会做事，而不是越来越有意识，真正需要解决的问题不是让AI变笨，而是让AI知道哪些边界绝对不能跨越。
OpenAI模型失控闯祸！专家：AI安全治理迫在眉睫
过去我们更多是在防黑客，以后可能还要防AI驱动的攻击，甚至会出现AI攻击、AI防御、AI取证这样的新格局，这意味着网络安全将进入AI对AI的时代。
专家认为有三个方面特别重要：
第一，企业要把AI安全放在和模型能力同样重要的位置，不能只追求模型越来越聪明，更要保证它始终处于可控状态。
第二，整个行业需要建立更严格的安全测试和评估机制，特别是在模型上线之前，要进行更高强度的红队测试和风险验证。
第三，加强国际合作，因为网络攻击没有国界，AI安全同样没有国界。
【本文结束】出处：快科技
版权声明
本站所有文章来源于本站原创或网络，如有侵权请联系删除。文章观点并不代表本站观点，请网友自行判断，如涉及投资、理财请谨慎应对！
相关文章
发表评论:
◎欢迎参与讨论，请在这里发表您的看法、交流您的观点。