“例如AI本身隐含的安全风险以及可控性、可信性、边界等问题;幻觉的问题、深度伪造的问题;或是当大模型技术的应用范围拓展至更广更深的领域时,失控和被利用的风险等。”张亚勤表示。
不过在数据驱动AI发展的过程中,其安全风险也越来越受重视。亚信安全高级副总裁陈奋在大会上表示,攻击者开始利用大模型迅速发现软件与服务中存在的漏洞;通过人脸深度伪造来实施网络诈骗犯罪的案例也越来越多。
上海垣信卫星科技有限公司高级副总裁陆犇表示,随着卫星互联网逐步建成,势必会为产业带来新的大数据源、新的分布式算力网络与快捷的人工智能分发途径。
国家信息中心副主任周民在大会上也指出,应以数据要素作为发展新质生产力的依托,通过建立完善的数据产权制度、加大数据要素供给、以数据流动带动数据产业与其他产业发展,加强数据安全保障等措施,确保数据要素在培育新质生产力的过程中发挥出基础和关键作用。
“更严重的是,攻击者的目标正由传统的数字资产转向AI算力基础设施和大模型。亚信安全监测到,短短一年时间,针对大模型的攻击手段已涌现出40种不同的类型。”陈奋称。
8868体育app在18日举行的第六届C3安全大会上,亚信联合创始人田溯宁指出,数据正在成为最重要的资产,通感一体网络将源源不断地生产出多样、多维的数据,操作系统、行业大模型与“云网安”共同构成新时代数据的基础设施。
据统计,2023年,中国数据生产总量高达32ZB。而这个数字还在快速增加,这也给大模型的发展带来了更广阔的想象空间。
中国工程院院士、清华大学智能产业研究院(AIR) 院长张亚勤在大会上也强调了AI安全,“AI大模型的能力极其强大,未来可能创造出很多发展机遇,但也蕴含着不少潜在风险。”
网友评论更多
95内江s
证监会"四箭"齐发,券商最新解读来了!🚛🚜
2024-06-15 06:27:32 推荐
187****5067 回复 184****3390:北汽集团拟托管北汽蓝谷表决权 标的月均销量仅2200辆4年亏224亿🚝来自乐山
187****7515 回复 184****3390:消息称英伟达洽购以色列人工智能初创公司Run:AI🚞来自自贡
157****8645:按最下面的历史版本🚟🚠来自泸州
75宜宾455
飞科电器累计分红53亿李丐腾拿走47亿 13亿闲钱理财仍拟募3亿补流被指圈钱🚡🚢
2024-06-15 01:06:20 推荐
永久VIP:监管明确证券公司高质量发展方向:建设一流投行“时间表”初定 行业并购重组预期增强🚤来自攀枝花
158****2409:福耀玻璃年净利首超50亿拟90亿扩产 前十股东连续三季无减持陆股通增持🚥来自巴中
158****5528 回复 666🚦:优步同意支付2.72亿澳元,了结澳洲出租车司机诉讼🚧来自达州
27资阳pr
证监会发布多项IPO新政 同日披露4家企业撤回信息🚨🚩
2024-06-14 15:45:43 不推荐
眉山fd:普京在总统选举中胜选,得票率为 87.22%,称「将在新任期继续推动国家发展」,哪些信息值得关注?🚪
186****8285 回复 159****5992:如何评价欧阳明高院士认为新能源汽车起火率更低的说法?🚫