事件：今日，据美联社报道，联合国安理会将于 7 月 18 日首次就人工智能（AI）监管召开会议，讨论 AI 对国际和平与安全的潜在威胁，会议将由英国主持。

英国驻联合国大使芭芭拉・伍德沃德（Barbara Woodward）表示，此次会议内容包括听取国际 AI 专家和联合国秘书长安东尼奥・古特雷斯的简报。

 

古特雷斯上月曾公开表示，科学家和 AI 专家正呼吁全球采取行动，因为 AI 可能会对人类构成与核战争风险同等的生存威胁。

 

古特雷斯还建议以国际原子能机构为典范，构建一个以专业知识为基础、拥有一定监管权力的全球性监管机构。

 

伍德沃德则提出，英国希望鼓励“采取多边方式来管理 AI 为所有人带来的巨大机遇和风险”，而且“这需要全球共同努力”。

伍德沃德也认为，AI 的好处是巨大的，它有潜力帮助联合国发展项目、改善人道主义援助行动、协助维和行动和支持冲突预防，还可能有助于缩小发展中国家和发达国家的差距。但她同时强调，AI 也存在必须解决的严重安全问题，例如将其用于自主控制武器或操纵核武器。

 

 

的确，随着人工智能（AI）的不断发展和应用，AI安全问题也日益受到关注。AI安全问题包括数据隐私、算法攻击、模型欺骗等多个方面，而这些问题的解决将是AI未来发展的关键。

 近期，世界各地曝出多起人工智能“辅助”诈骗案件。一些不法分子利用人工智能“深度伪造”行骗，值得引起高度警惕。

“AI换脸”“AI拟声”、虚拟场景构建……随着设备性能提升和技术软件优化，利用“AI换脸”技术实施诈骗，已成为一种新型网络诈骗。

 

 

当地时间3月31日，意大利个人数据保护局宣布，从即日起禁止使用聊天机器人ChatGPT，并限制开发这一平台的OpenAI公司处理意大利用户信息。同时个人数据保护局开始立案调查。

据券商中国4月3日报道，据韩国媒体报道，三星导入ChatGPT不到20天，近日便曝出机密资料外泄的意外事件，涉及半导体设备测量资料、产品良率等内容，传已经被存入ChatGPT的数据库中。

 

 

自2017年以来，美国、欧盟、德国、加拿大、日本、新加坡等国家或地区已陆续发布人工智能发展和治理的法律法规准则。

 

我国根据《国务院2023年度立法工作计划》，多项AI安全相关的法规有望近期出台。

 

2023年4月11日，根据《中华人民共和国网络安全法》等法律法规，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》，旨在促进生成式人工智能技术健康发展和规范应用，并向社会公开征求意见。

 

AI频频引发公共舆情危机，网络安全升级迫在眉睫， AI进化使得本轮网络安全产业逻辑发生了重大变化，攻击侧显著增加整体威胁态势，进而带来各类安全软硬件需求以及政企安全预算的提升，防守侧也需要借助AI提升效率，监管侧则需要面对生成式AI广泛应用带来的新增内容风险、数据安全风险等等。攻防维度提升，驱动AI安全市场加速爆发。

 

笔者为大家整理了几家代表性的AI安全标的，供大家参考。

 

688244永信至诚

 公司主营业务为网络安全产品的研发、生产和销售，以及为客户提供网络安全服务。公司主要产品及服务包括网络靶场与人才培养、安全管控与蜜罐、安全工具类产品、安全防护系列服务和网络安全竞赛服务。

 

公司创始团队主要成员是国内最早的一批网络安全技术专家，曾任职于多家国内外著名网络安全企业，均拥有十年以上专业网络安全从业经历。永信至诚董事长蔡晶晶是国家“万人计划”科技创业领军人才、中华国际科学交流基金会第三届“杰出工程师”奖和“2018国家网络安全优秀人才”等奖项获得者。

 公司自主研发的网络安全实验室靶场平台获得国家计算机网络应急技术处理协调中心2018年网络安全创新产品（技术）一等奖，同时获得中国信息安全测评中心2018年度中国信息安全产业优秀创新型产品解决方案。

 2018年10月25日，中科合创（北京）科技成果评价中心组织院士等专家对公司的“城市网络靶场构建技术及应用”进行集中评定，认定“该项目达到国内领先水平”。公司作为第一完成人的“基于平行仿真的大规模网络靶场构建技术及应用”项目荣获2019年度北京市科学技术奖（科学技术进步奖）一等奖。

 7月5日,2023年中国工业互联网安全大赛决赛在重庆国际博览中心火热开赛，永信至诚作为技术支持单位，使用公司“春秋云境网络靶场”产品和“数字风洞”产品体系，为大赛提供全国线上预选赛、线下总决赛竞赛平台支持及赛题设计、裁判、运维、组织运营等全面支撑保障。

 

 

IDC报告显示：公司网络靶场市场占有率位居第一

 

公司开发了国内首个人工智能网络安全攻防平台RHG

 

 

 

688152麒麟信安

 公司专注于国家关键信息基础设施领域相关技术的研发与应用，主要从事操作系统产品研发及技术服务，并以操作系统为根技术创新发展信息安全、云计算等产品及服务业务。目前公司形成了“操作系统-云计算-信息安全”三位一体的产品体系，即以操作系统技术为根技术，操作系统产品为基石，信息安全产品和云计算产品为延伸的紧相关产品结构。

 公司信息安全产品以数据安全存储为主，自主研发的天机存储加密系统已运用于人工智能，国防，电力，政务系统。该产品创造性的将操作系统技术与 密码服务、存取控制技术有机结合，融合 NAS、SAN 和云计算存储安全于一体，突破了海量文件快速备份、透明文件加密、透明块设备加密、多卡冗余并行加速、数据块智能合并、集群高可用等关键技术点，已成为新一代基础安全设施。在数据集中安全存储领域，公司已掌握关键核心技术，产品已经大量应用于国防、党政关键单位。

 

公司操作系统、云计算和信息安全三大业务协同发展，各业务线收入同比均实现增长，其中操作系统业务作为公司的基础核心业务，较上年同期实现快速增长，增幅57.43%。随着下游市场需求的增长，公司在国防、电力两个优势客户行业实现收入稳定增长，增幅分别为 20.46%、13.14%。公司主线产品持续迭代创新发展，麒麟信安操作系统 V3.5.1 已经正式发布，该版本基于 openEuler 22.03 LTS 构建，可支持服务器、云计算、边缘计算等各种形态设备，覆盖 IT、CT 和 OT 数字基础设施全场景需求，应用开发接口统一，并全面支持多样性计算，包括鲲鹏、飞腾、海光、兆芯、龙芯、Risc-V、Intel X86 等 CPU 架构。同时，面向行业需求推出主机安全加固软件 V1.0、安全容器平台系统 V1.0、录屏审计软件 V1.0、安全探针软件 V2.2 等增值软件。针对 CentOS 停服产生的热点需求，公司发布了系统迁移工具 Convert2Klinysec V1.5，可覆盖CentOS 系统迁移所有场景，助力企业由 CentOS 向国产操作系统平滑过渡。此外，公司发布了Kiran 桌面环境 V2.4，并成为了 RISC-V 架构首个发行版 Eulaceura 的默认桌面环境。

 

 

300212易华录

 公司是国务院国资委直接监管的央企中国华录集团旗下的上市公司，公司云安全业务围绕客户信息系统所支持的业务和管理要求，为客户在网络安全体系建设规划设计阶段提供规划与设计咨询服务，主要包含网络安全规划、网络安全体系建设。

 

公司的蓝光存储是我国强化网络安全与信息安全的重要手段，更是科技自立自强的核心基座自主可控的重要支撑。光存储产品主要包括CD、DVD、BD，其中以蓝光BD为主流商用。国内厂商以中国华录为代表，现已具备光存储全产业链自主可控的布局。国家政策要求数据存储国产化，自主可控、数据安全或已成为必然趋势。

 

易华录与中国移动是长期合作伙伴，合作建设的视频云，提供了一站式端到端的整体视频应用方案。蓝光存储与超级智能存储作为视频云基础资源的重要组成部分，以用户数据安全为第一位，其硬件介质稳定、防病毒、防篡改、防电磁干扰，支持RAID0/5/6高冗余技术，寿命长达100年；其软件支持多副本、EC，为数字化时代海量数据安全、长期存储保驾护航，支撑了视频的云端生产、海量处理和全网分发的vPaaS能力，赋能视频云提供端到端的整体解决方案。

 

同时，公司和英伟达合资建立云计算中心（英伟达70%，易华录30%），其中易华录负责整个云计算基础的搭建，英伟达和易华录共同负责GPU算力资本开支。

公司旗下有一个易数工场（曾用名“数据银行”，号称数据国家队，业务定位为数据要素价值化、资产化、市场化平台，实现数据的供需拉通，打造赋能数据要素融通创新的数字经济基础设施。“数据银行”核心在于帮助政府实现数据的资产化，通过对政务数据深度挖掘，并上架各大数据交易所销售。