2月15日消息，马斯克称，人工智能是我们需要非常关切的问题，需要监管人工智能安全。关于ChatGPT，马斯克去年12月也公开表示称：ChatGPT好得吓人，我们离强大到危险的人工智能不远了。

2月13日XHS发文称：ChatGPT不仅是新一代聊天机器人的突破，也将为信息产业带来巨大变革，但由此带来的学术造假、技术滥用、舆论安全等风险亦不容忽视。

欧盟21年就监管人工智能的使用公布了一项法律框架。该框架下的一系列法规概述了企业和政府应如何使用人工智能技术，包括限制警方在公共场合使用人脸识别软件、禁止某些类别的人工智能系统等，成为迄今为止在该方面涉及范围最广泛的行动之一。深度合成和生成式AI技术一旦被滥用，将会造成巨大的安全风险与实质性危害，给个人、企业造成肖像、名誉等人格和财产权益损害，也可能给社会秩序、国家政治稳定和安全造成巨大威胁。

为规范深度合成服务，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》）。《规定》通过系统性、创新性制度设计，首次回应了对深度合成服务的管理要求，为互联网信息服务深度合成的规范发展提供了基本遵循和合法依据。

AI监管的重要性：

从人的视角来评估人工智能的安全问题，首当其冲就是技术的两面性问题，存在人工智能滥用的问题。具体到人工智能的应用中来看，最为典型的代表就是深度伪造技术，它的负向应用风险持续加剧且已产生实质危害。典型的就比如现场演示的“神奇贴纸”，其实就是“对抗样本攻击”，通过在输入数据中添加扰动，使得系统作出错误判断。

这一漏洞在自动驾驶感知系统同样存在。正常情况下，在识别到路障、指示牌、行人等目标后，自动驾驶车辆就会立即停车，但在目标物体上添加干扰图案后，车辆的感知系统可能会出错，径直撞上去。

AI监管刻不容缓

688152麒麟信安：公司依托自身多年来在信息安全领域的实践经验和技术积累，受行业主管部门批复同意，牵头承担了商用密码行业标准《存储加密网关技术要求》的制定工作，并充分理解和把握数字化发展趋势下对数据安全防护的迫切需求，自研推出了麒麟信安天机存储加密系统产品。

300352北信源：公司作为中国第一批自主品牌信息安全产品及整体解决方案供应商，国内终端安全管理市场占有率第一,主要为党政机关、国家部委、国防军工、科研院所、金融机构、能源医疗等客户,提供高品质安全产品与场景化安全解决方案。公司全力打造的“信源密信”即时通信系统已广泛应用于党政军重点单位,为各类重大工程提供规模化的即时通信服务。

688030山石网科：公司入选首批“人工智能安全可信护航计划”合作伙伴单位。公司的网络安全产品应用多项先进技术，人工智能技术作为一种技术手段，可以提高公司网络安全产品及解决方案的分析和防护能力。