全国政协委员、九三学社中央委员、360集团创始人周鸿祎,今年是第8年参加全国两会。3月4日上午,在全国政协十四届三次会议开幕前,他在接受记者采访时表示,“我关注的依然是安全和人工智能两个方向。”
今年春节期间,DeepSeek在全球异军突起,成为了AI发展史上的重要里程碑。谈到大模型,周鸿祎开门见山地说,“在我看来,DeepSeek最大的成果不仅是让中国大模型在技术上赶上了美国大模型,同时在中国用户、企业和政府中做了一次人工智能的普及教育。”
他分析指出,由于DeepSeek免费、开源等特性,大家纷纷开始采用DeepSeek在政府企业内部降本增效,加速了中国爆发AI产业革命的步伐。但DeepSeek作为基座模型,也存在着幻觉、提示注入攻击等问题。同时,大模型要在企业内部真正发挥作用,还需要连上企业的专业知识库、打造智能体,调用企业各种IT系统,这进一步加剧了安全风险。因此,当大模型渗透率提升时,应用安全问题也迫在眉睫。
“传统网络安全已经无法应对新挑战,所以我建议应由既懂安全又懂AI的企业牵头,以模制模,通过打造安全大模型来解决大模型的应用安全问题。”周鸿祎说。
“在传统的大模型发展技术路线遇到瓶颈时,DeepSeek通过强化学习找到了新范式,中国应该抓住机会鼓励应用发展。”周鸿祎强调,作为人工智能,DeepSeek本身一直存在着幻觉的“基因问题”。
他认为,幻觉其实是一把双刃剑,它是大模型具备真智能的体现,是走向AGI的基础,它让大模型体现出更多的创造性和想象力,能够在科研领域发挥重要作用。大模型幻觉很难消除,但我们已经通过多个大模型交叉验证、搜索矫正以及企业知识库比对等方式进行了纠正。
“在大模型产业高速发展的过程中,不发展是最大的不安全,所以我们不能因为大模型的幻觉问题就因噎废食。就像‘避风港原则’曾带给互联网巨大的产业发展机会,我呼吁国家对大模型发展实行柔性监管,更加包容审云开网站 开云Kaiyun.com中国慎,这样中国人工智能才能借助DeepSeek的机会实现更长远的发展。”周鸿祎表示。
谈起自己的老本行网络安全这一年的发展,他指出,传统行业纷纷进行数转智改的背景下,网络安全和大模型安全问题日益凸显,所以越来越多的企业开始打造自己的安全体系。但一直以来,我国安全行业内卷严重,很多厂商只是一味地卖硬件软件,客户也无法得到想要的安全服务,致使行业面临普遍性经营困境,造成客户和厂商双输的局面。同时,各种高级别攻击日益严重,企业不只需要一个“安全盒子”,更需要高级网络安全专家协助进行数据分析研判、数据追踪及事件处置。为了解决这个困境,国外很早就通过SaaS的方式来为更多企业提供安全服务,企业不仅可以直接体验安全服务效果,投入成本也降到了1/5甚至1/10。
“因此,我今年也会呼吁国家从政策上支持采购安全服务,特别是鼓励采购 SaaS化安全服务,实现安全的普惠。”周鸿祎表示,“筑牢网络安全根基,是为大模型发展铺路;而解决AI应用安全与幻觉问题,则是让技术真正转化为新质生产力。”
①凡本站注明稿件来源为:中国高新技术产业导报、中国高新网、中高新传媒的所有文字、图片和音视频稿件,版权均属本网所有,任何媒体、网站或个人未经本网协议授权不得转载、链接、转贴或以其他方式复制发表。已经本网授权使用作品的,被授权人应在授权范围内使用,并注明“来源:中国高新网、中高新传媒或者中国高新技术产业导报”。违反上述声明者 ,本网将追究其相关法律责任。
② 任何单位或个人认为本网站或本网站链接内容可能涉嫌侵犯其合法权益,应该及时向本网站书面反馈,并提供身份证明,权属证明及详细侵权情况证明,本网站在收到上述文件后,将会尽快移除被控侵权的内容或链接。