正文复制

中国计算机报/2025 年/5 月/12 日/第 005 版观点
第十四届全国政协委员，全国工商联副主席，奇安信集团董事长齐向东:
大模型“ 裸奔” 上线 极有可能引发业务停摆的链式危机
本报编辑部
“ 新技术是把双刃剑,大模型应用一端连着机遇,一端连着挑战,面对大模型应用的三重挑战,需抓住‘ 接入放心用’ ‘ 权限强管控’ ‘ 严把内容关’ ‘ 杜绝新隐患’ ‘ 运营可闭环’ 五个关键,筑牢人工智能的安全底线,为千行百业抓住人工智能新机遇,吃下一颗‘ 定心丸’ 。” 第十四届全国政协委员,全国工商联副主席,奇安信集团董事长齐向东在第八届数字中国建设峰会数字经济分论坛上表示,人工智能大模型应用在各行各业迎来大爆发,新兴场景层出不穷,带来无限生产力、创造力,同时也带来巨大安全风险。【更多写作资料+ 微信：】
大模型应用加速落地 安全挑战迫在眉睫
现如今,人工智能技术正不断向具体应用场景纵深渗透,应用层级不断深化——从基本应用的直接部署,到细分场景的精准赋能;从垂直行业的专业化适配,再到特定领域的深度融合。然而,人工智能发展带来的安全隐患也不容忽视。齐向东详细剖析了大模型应用所面临的三大安全挑战。
第一,“ 小数据” 一失万无,“ 小数据安全” 成为数字经济时代的核心关切。在数字经济时代,数据如同驱动发展的“ 石油” ,人工智能则是“ 发动机”。“ 过去,提到数据我们想到的都是大数据,规模大,但碎片化、质量参差不齐,数据价值挖掘和变现难。 ” 齐向东表示,如今,人工智能大模型的出现,为数据赋予了新的活力,企业通过对设计、 生产、 安装调试等数据进行加工处理,形成精华 “ 小数据” ,这些“ 小数据” 成为企业核心竞争力所在。不过,一旦“ 小数据” 被窃取、泄露或篡改,企业多年积累的优势将瞬间崩塌。