OpenAI公司开发的ChatGPT自去年11月底推出以来,迅速成为增长最快的互联网服务之一,在推出头两个月用户就超过了1亿。由于该模型能够根据提示生成类似人类书写的文本,这是一种前所未有的能力,因此迅速风靡全球。
随着ChatGPT掀起一场科技热潮,相关竞品纷纷出现,企业竞相将ChatGPT或类似技术集成到自己的应用程序和产品中。
“随着ChatGPT等LLMs(大型语言模型)的能力积极改进,犯罪分子可能滥用这类人工智能系统,前景不容乐观,”欧洲刑警组织在一份以聊天机器人开头的技术报告中表示。
或被用于三个犯罪领域
报告指出,ChatGPT或被用于三个犯罪领域,分别是网络钓鱼、宣传虚假信息以及网络犯罪。
网络钓鱼是一个重要的应用领域,它通过发送虚假电子邮件来诱使用户点击链接。在过去,由于语法或语言错误,这些骗局很容易被发现,而人工智能生成的文本高度逼真加大了骗局被识破的难度。
“ChatGPT能够起草高度逼真的文本,这使其成为网络钓鱼的有用工具。”欧洲刑警组织表示。
该机构表示,由于该聊天机器人拥有复制语言模式的能力,可以模仿特定个人或群体的说话风格,犯罪分子可能会利用它来瞄准受害者。
欧洲刑警组织表示,ChatGPT能够快速、大规模地生成听起来真实的文本,这也使其成为宣传虚假信息的理想工具。
该机构还表示,缺乏技术知识的犯罪分子,还可能会利用ChatGPT来生成恶意代码。
1.任子行:零信任AI解决方案方便快捷了用户操作,智能防止了数据泄露,更全面保护了客户重要敏感业务系统的数据安全。图像持久化存储为事故溯源取证提供了数据支撑,实现了场景应用的闭环,具有重大的产品价值。
2.天融信:公司专门针对数据安全进行前瞻性布局研发,推出针对数据的终端防泄漏、网络端防泄漏、数据脱敏、大数据安全防护、数据安全管控平台等数据安全专用产品,并同步构建针对数据安全治理的咨询服务团队。
3.启明信息:公司麾下全资子公司长春启明信息集成服务技术有限公司,主要开展网络安全等级保护定级协助、等级保护建设咨询、等级保护方案设计、等级保护测评、等级保护培训、安全运维服务以及应急响应等安全服务业务,是从事专业化的信息安全服务提供商。