构筑主动免疫人工智能安全产业空间,让大模型“智能引擎”更安全可靠
2024年4月29日,由中国(中关村)网络安全与信息化产业联盟(以下简称“联盟”)主办的2024中关村论坛中关村国际技术交易大会——第八届中国网信产业前锋汇(以下简称“前锋汇”)在中关村软件园国际会议中心成功举办。
中关村国际技术交易大会自2020年起成为中关村论坛的重要组成部分,本届前锋汇被纳入2024中关村国际技术交易大会重要活动,以“人工智能时代下的网络安全创新与挑战”为主题,围绕如何提升人工智能快速发展下的安全保障水平、有效防范各类风险,借助AI能力加速网络安全技术创新、安全防护体系创新等问题展开深入的思想交流。来自政府有关部门领导、外籍资深专家和国内两院院士、国家级科研院所专家、高校教授、行业学者以及联盟会员单位代表共300余位嘉宾出席本次论坛。本届前锋汇由北京广播电视台主任播音员谢雅而主持。
会议开始,由工业和信息化部原中小企业司副司长王建翔,中国安全防范产品行业协会理事长、公安部网络安全保卫局原局长顾建国,国家信息中心办公室副主任吕欣,中关村科学城工委委员、海淀区科学技术和经济信息化局局长、中关村科学城管委会产业促进二处处长/二级巡视员何建吾发表致辞。致辞领导们阐述了人工智能时代下网络安全面临的挑战与创新路径,全面解读我国在人工智能与网信领域的战略布局,并倡导全社会共同参与网络安全建设,共同推动新时代网信产业新发展。
▲工业和信息化部原中小企业司副司长王建翔
▲中国安全防范产品行业协会理事长、公安部网络安全保卫局原局长顾建国
▲国家信息中心办公室副主任吕欣
▲中关村科学城工委委员、海淀区科学技术和经济信息化局局长、中关村科学城管委会产业促进二处处长/二级巡视员何建吾
中国工程院院士沈昌祥在前锋汇现场作了题为《用主动免疫可信计算筑牢人工智能安全防线》的主旨报告,围绕我国加快建设网络强国战略,阐述了人工智能产业安全可信技术的发展现状和方向。沈院士深入分析了当前人工智能产业发展的安全需求,提出构筑安全可信人工智能新生态体系和主动免疫人工智能安全产业空间的策略构想,为我国人工智能产业的可持续发展提供科学指导和技术支撑。
巴基斯坦信息技术中心总干事阿玛尔·贾弗里(Ammar Jaffri)作《人工智能时代下,“中巴经济走廊”与“一带一路”发展网络安全的机遇与挑战》主旨报告。阿玛尔先生全面分析了当前全球网络安全领域所面临的核心挑战,包括但不限于利益相关者未达成一致、国际人力资源开发亟需加强、信息共享机制不完善。同时针对这些挑战,他提出了深化中巴网络安全合作、改革教育体系培养人才以及组建中巴经济走廊高等教育委员会,相信在人工智能将成为提高网络安全防护能力的关键工具,为“中巴经济走廊”与“一带一路”倡议的实施提供坚实的安全保障。
中国信息通信研究院人工智能研究所副所长魏凯作《人工智能安全与风险管理产业实践》主题演讲。他首先介绍了人工智能快速发展对产业带来的重大机遇,同时也指出伴随而来的风险挑战,并针对全球人工智能安全治理框架以及产业界人工智能安全与风险管理方面的实践策略进行分析。此外,魏所长还分享了中国信通院在这一领域实践案例,为相关政策制定和企业实践提供有益参考。
蚂蚁集团副总裁兼首席技术安全官韦韬作《DKCF可信框架:大模型从“砖家”到“专家”还有多远》主题演讲。韦总基于目前大模型在专业概念模糊、推理认知残差、反馈循环低效、注意力规模局限与协同链安全缺失等方面的本源问题,提出DKCF(数据/知识/协同/反馈)大模型应用可信框架,该框架旨在为大模型这个“智能引擎”配上行业应用所必须的底盘、电控和安全装置,进而给越来越多的专业领域带来智力变革。
三未信安科技股份有限公司董事长助理刘增气在《数据安全的发展与实践研究》主题演讲中,系统性地剖析了三未信安在数据安全领域的实践与探索。他详细分析了公司如何以法律法规要求为依托,结合安全监管、密码技术,从而构建起一套围绕数据全生命周期的安全保障体系,同时还介绍了三未信安针对不同行业需求定制的一系列数据安全解决方案。
在签约发布环节,北京擎火科技有限公司、北京洛希亨科技有限公司、江苏镜海信息安全技术服务有限公司、北京三博安科技有限公司、北京悠宸科技有限公司、北京微步在线科技有限公司、北京华顺信安科技有限公司等联盟会员单位代表与四季慧谷国家网络安全产业园在现场举行了入驻签约仪式。联盟会员单位的入驻,将进一步丰富产业园的产业生态,提升产业园的整体竞争力,为四季慧谷国家网络安全产业园的快速发展注入新的活力。
联盟秘书长邹冬作产业研究报告《中国网信产业发展桔皮书——智能力量》(以下简称“《智能力量》”)解读推介,并现场赠书。该书集中专家学者、技术人员在原有书稿基础上进行了一年多的调整、修改和完善,最终定名为《智能力量——实现高质量发展的新动能》,于2024年1月在中国工信集团、人民邮电出版社二次出版发行。邹秘书长表示,联盟桔皮书的编研始终聚焦网信热点、焦点方向,注重于理论与实践、现态与前瞻性研究,《智能力量》围绕当下热点议题“人工智能”,立足人工智能与发展应用,从社会发展力视角切入,提出“智能力量”这一概念,并围绕此概念进行归纳研究,反映中关村网信企业在人工智能技术发展与应用方面的研究成果,为更多行业从业者提供行业发展思考的重要参考资料。
圆桌对话环节由国家信息中心原首席工程师李新友主持,清华大学北京信息科学与技术国家研究中心研究员、人工智能研究院听觉智能中心主任郑方,北京航空航天大学网络空间安全学院院长刘建伟,北京理工大学网络空间安全学院党委书记/教授、中国人工智能学会智能信息网络专委会主任祝烈煌,人工智能学者、中国计算机学会科普工委执行委员高庆一,北京天地和兴科技有限公司副总裁翟胜军以“生成式人工智能带来的安全挑战”为主题,围绕大模型人工智能技术、生成式人工智能、人工智能生成内容等相关问题进行研讨,分享权威观点,为当前人工智能与网信领域的发展提供参考。
中国(中关村)网络安全与信息化产业联盟作为前锋汇的主办单位,未来将继续保持与中关村论坛和中关村国际技术交易大会的紧密合作与联系,主动融入,深度参与,紧跟国家发展战略,发挥桥梁纽带作用,为我国人工智能与网信发展贡献力量。