美亚柏科:数据合规,数据脱敏,数据安全
AI监管-科技部公开征求对《科技伦理审查办法(试行)》意见
只要这个没落地,美亚柏科就值得继续期待
ChatGPT疑似数据泄露事件多发,数据全生命周期保护重要性强化。根据韩国媒体《Economist》报道(转引自澎湃新闻),近日三星电子的半导体暨装置解决方案部门发生三起涉及ChatGPT误用与滥用案例,包括“设备信息泄露”和“会议内容泄露”;公司正在制定保护措施,防止通过ChatGPT发生信息泄露事件。此外,英国广播电视公司报道称,有ChatGPT用户看到其他用户的对话标题。由于大模型在训练、调优数据过程中涉及用户数据调用,我们认为,伴随生成式AI技术热潮掀起,在数据采集、传输、存储、处理、共享、销毁等数据生命周期各阶段,通过加密、数据水印等技术手段保护用户数据特别是隐私成为当务之急。
▍ AI生成内容或涉及可靠性、使用方式等问题,内容监管逐步提上日程。由于大模型在生成内容上的基于概率统计的原理,其内容可靠性可能存在问题,如引用的客观数据是否是最新且来源可靠的,AI生成的内容也可能反映社会上的偏见或成见,或引发事件争议。此外,AI生成内容怎样被合理使用也是近期的热点。例如,由AI生成的新闻图片出现在互联网中,真假难辨,或引发传播风险;欧洲刑警组织提示称,ChatGPT可能被滥用于网络钓鱼、虚假信息和网络犯罪。基于此,我们认为,针对AI生成内容的监管应逐步提上日程,具体包括对AI生成内容的明确标记或提示,对AI生成内容可靠性的把关及其传播链路的跟踪等。