丰禾电竞

中国工程院院士、清华大学智能产业研究院(AIR) 院长张亚勤在大会上也强调了AI安全，“AI大模型的能力极其强大，未来可能创造出很多发展机遇，但也蕴含着不少潜在风险。”

丰禾电竞在18日举行的第六届C3安全大会上，亚信联合创始人田溯宁指出，数据正在成为最重要的资产，通感一体网络将源源不断地生产出多样、多维的数据，操作系统、行业大模型与“云网安”共同构成新时代数据的基础设施。

上海垣信卫星科技有限公司高级副总裁陆犇表示，随着卫星互联网逐步建成，势必会为产业带来新的大数据源、新的分布式算力网络与快捷的人工智能分发途径。

不过在数据驱动AI发展的过程中，其安全风险也越来越受重视。亚信安全高级副总裁陈奋在大会上表示，攻击者开始利用大模型迅速发现软件与服务中存在的漏洞；通过人脸深度伪造来实施网络诈骗犯罪的案例也越来越多。

据统计，2023年，中国数据生产总量高达32ZB。而这个数字还在快速增加，这也给大模型的发展带来了更广阔的想象空间。

国家信息中心副主任周民在大会上也指出，应以数据要素作为发展新质生产力的依托，通过建立完善的数据产权制度、加大数据要素供给、以数据流动带动数据产业与其他产业发展，加强数据安全保障等措施，确保数据要素在培育新质生产力的过程中发挥出基础和关键作用。

“例如AI本身隐含的安全风险以及可控性、可信性、边界等问题；幻觉的问题、深度伪造的问题；或是当大模型技术的应用范围拓展至更广更深的领域时，失控和被利用的风险等。”张亚勤表示。

“更严重的是，攻击者的目标正由传统的数字资产转向AI算力基础设施和大模型。亚信安全监测到，短短一年时间，针对大模型的攻击手段已涌现出40种不同的类型。”陈奋称。