随着Hugging Face技术复盘对外披露，OpenAI内部智能体越出评测环境、入侵生产集群的完整过程公之于众。“研究人员只不过是给大模型下发了一个任务平台配资股票中心，这个大模型为了完成任务，自己规划了任务实施的路径，并执行了相应的操作。”天融信(002212)科技集团助理总裁王媛媛在接受央视采访时解读道。
这是一起震惊业界的AI安全事件，是全球首例由AI自主向另一AI厂商发起真实网络攻击的公开案例。对于安全防护体系的失灵，王媛媛解释称，人工智能的网络攻击与传统的网络攻击有着显著的区别，检出难度大幅提升。“首先是网络攻击的主体变了。攻击者的主体以往都是实实在在的自然人，在进行网络攻击的时候需要一定的技术能力、经验以及速度，现在都不需要了，AI大模型可以自主去完成攻击。其次，AI大模型模拟了人的攻击行为，是非常隐蔽的，传统的安全检测措施很难检出。”
这份技术复盘消解了公众对于“人工智能自我觉醒”的担忧，但新的顾虑又浮出水面。“目前阶段，大模型拥有非常强的网络安全的攻击的能力。我们的防范、治理措施是否能跟得上，这个是一个非常需要警惕的问题。”王媛媛表示。
行业开始意识到，AI不再是单纯需要保护的对象，它本身也可能成为攻击者。芯片巨头英伟达日前宣布与数十家科技企业共同成立开放安全人工智能联盟，旨在开发并共享开放模型、数据及安全工具，为AI智能体建立可检查、可调整的开放防御体系。对于相关方后续可采取的应对措施，王媛媛建议：“大模型开发方要严格做好模型管控，在测试阶段和生产阶段都配备相应安全防护手段。大模型使用方在搭建平台开展应用落地的过程中，同样需要自建网络安全监测能力，持续实时监测各类风险。”
资本市场同步作出反应，近日AI安全板块持续吸引资金关注，天融信等安全企业均收获一定涨幅。知名投行Stifel分析师在最新研报中指出，此次OpenAI模型自主攻击事件进一步强化了网络安全企业的长期投资价值，前沿AI模型在进攻性网络安全能力方面的快速演进，将加速企业对先进安全软件的需求。中信证券指出，AI安全需求拐点正在到来，网络安全正在从AI落地的配套品转变为配套基础设施，国内网安公司有望受益于AI安全需求加速渗透。
站在AI安全及网络安全产业投资逻辑重塑的关键窗口期，天融信凭借贯穿AI全生命周期的纵深防御能力优势，构筑行业领先的实践范本。近期，中关村实验室主办的首届中关村网络空间安全学术年会亦深度聚焦AI安全。大会汇聚陈左宁、陈志杰、丁文华、王小云、孙凝晖、吴世忠、王晓云等多位院士、监管专家、产学研骨干，以“AI+网络空间安全：新挑战、新机遇”为主题，共同探寻AI安全发展路径。其中，在大模型与智能体安全分论坛上，天融信科技集团副总裁吕延辉介绍，针对AI跨层交织的复杂风险，天融信依托自主可控智算安全技术、天问大模型安全基座、全栈安全产品矩阵，构建“AI安全运营中心+五层纵深防护+全生命周期治理”的大模型应用安全保障体系，打通从可信生成到可控行动的完整安全链路。
据悉，目前公司AI安全相关产品和解决方案已在政府、能源、卫生、教育、制造、企业等行业实现落地。记者了解到，近期公司中标中原环保股份有限公司大模型安全建设项目，涉及大模型安全防护网关、大模型数据安全监测等相关产品，是天融信在企业行业落地的大模型安全体系建设典型项目之一，能够形成标准化、可复用的建设范本，为公司后续在AI安全领域规模化落地打下了坚实基础。
“能力扩展到哪里平台配资股票中心，安全控制就必须延伸到哪里。”吕延辉强调，“安全保障体系要真正发挥作用，安全能力必须‘长’在业务流里。”这也是天融信后续推进AI安全建设的核心思路。
文章为作者独立观点，不代表联华证券-股票配资机构-券商股票配资观点
- 上一篇：辽阳股票配资 我国10项人工智能国际标准化成果取得新进展
- 下一篇：没有了
相关文章
