人工智能诈骗接二连三，强监管国家队即将介入！
维维尼
下海干活的小韭菜
2023-05-26 06:45:48
近日，包头、安庆等地先后发生不法分子利用人工智能(AI)进行诈骗，涉及金额数百万元。资本市场同样出现AI负面影响的事件，某上市公司因为生成式AI写作虚假小作文导致股价大幅下跌。在欧美，利用人工智能进行犯罪也有增多趋势。“人工智能教父”杰弗里.辛顿今年年初就曾经警告，人工智能对人类构成的威胁将比气候变化更加紧迫。当前在国内外发生的种种违法犯罪，正在应验辛顿的警告。可以预见，未来利用人工智能进行违法犯罪的事情会越来越多。金融市场和金融机构因为涉及资产价格和国家安全，人工智能犯罪的概率会更大。今年4月，国家互联网信息办公室起草了《生成式人工智能服务管理办法(征求意见稿)》，旨在促进生成式人工智能技术健康发展和规范应用。但作为一个行业管理办法，显然不足以对汹涌而来的人工智能发展进行约束和管理。期待监管机构能够在更高层面对这一行业发展进行更多关注和规范。方正证券表示，AI将带来网络安全产业逻辑的重大改变。从攻击侧来看，大模型、GPT、生成式AI技术将大幅降低黑客攻击的门槛，显著加剧了整体威胁态势，进而带来各类安全软硬件需求以及政企安全预算的提升；从监管侧来看，在类ChatGPT的生成语言工具得到广泛应用之后，监管侧对于内容的监管和审查将成为重中之重，内容安全、数据安全、流量可视等安全监管侧的需求将得到显著提升。深度合成技术包括人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或编辑图像、视频内容中生物特征的技术；图像生成、图像增强、图像修复等生成或编辑图像、视频内容中非生物特征的技术。这是人工智能技术不断发展的结果，也是现实世界多元需求的映照。比如，近年来走红的“AI换脸”APP，只需上传一张照片，经深度合成处理，就能秒变影视剧、短视频主人公。目前，深度伪造的技术门槛正大幅降低，特效合成等给短视频带来了许多新奇的玩法和美好的体验，但不管技术如何发展，使用者都应该坚守道德与法律底线，不能让“特效合成”沦为肆意侵权的工具。对于深度伪造这样一种技术，如果不进行规制，将产生可怕的后果。随着深度伪造的负面风险不断加剧，如何有效甄别深度合成内容就成为了关键，但随着合成质量的不断提升，传统基于生物特征的鉴别方式越来越难以发挥作用。因此，开发有效的人脸伪造检测方法是保证信息安全的当务之急。 人民中科专注内容安全领域，研究团队针对人脸识别伪造的不同场景和难点，通过机器学习、算法学习和模型训练，在技术能力上，具备基于身份空间约束的身份交换型伪造人脸鉴别和基于噪声一致性的伪造人脸鉴别等多种伪造人脸鉴别技术能力。
“白泽”是人民中科跨模态智能引擎，是对全网海量内容进行高通量感知、机器理解、智能检索并自主进化的计算平台。人民中科依托世界领先的内容理解技术和核心产品跨模态智能引擎“白泽”，提供面向政府和企业的内容安全服务、内容监测及版权保护、内容情报挖掘、内容安全测评和互联网内容审核、风控、巡检等系统，一站式内容风控解决方案，全方位护航数字世界网络安全与治理。未来，我们将继续深度挖掘跨模态信息检索的应用与价值，将以技术手段应对数字化给国家、社会、经济、娱乐等带来的新机会和新挑战，为政企、机构内容安全运营与管理保驾护航。
“白泽”是人民中科跨模态智能引擎，是对全网海量内容进行高通量感知、机器理解、智能检索并自主进化的计算平台。人民中科依托世界领先的内容理解技术和核心产品跨模态智能引擎“白泽”，提供面向政府和企业的内容安全服务、内容监测及版权保护、内容情报挖掘、内容安全测评和互联网内容审核、风控、巡检等系统，一站式内容风控解决方案，全方位护航数字世界网络安全与治理。未来，我们将继续深度挖掘跨模态信息检索的应用与价值，将以技术手段应对数字化给国家、社会、经济、娱乐等带来的新机会和新挑战，为政企、机构内容安全运营与管理保驾护航。
作者利益披露：原创，不作为证券推荐或投资建议，截至发文时，作者不持有相关标的。
声明：文章观点来自网友，仅为作者个人研究意见，不代表韭研公社观点及立场，站内所有文章均不构成投资建议，请投资者注意风险，独立审慎决策。
S
人民网
工分
1.39
转发
收藏
投诉
复制链接
分享到微信
有用 3
打赏作者
无用
真知无价，用钱说话
0个人打赏
同时转发
暂无数据