登录注册
周鸿祎:建议研究制定大模型安全标准体系,推进更多场景应用落地
纯真老韭菜
全梭哈的老韭菜
2024-03-03 14:49:31

024年全国两会,全国政协委员、三六零创始人兼董事长周鸿祎的提案聚焦数字安全和AI大模型的发展。

通用大模型的安全性,是周鸿祎提案中关注的重要方面。他认为,一方面,OpenAI系列模型工具发布后,AGI加速实现,将引发更加复杂的安全风险,主要包括技术安全、内容安全和人类安全三个方面;另一方面,生成式AI军事化的趋势愈发显著。

为此,周鸿祎建议,国家要更加重视通用大模型安全问题,给予兼具“安全和AI”能力的企业专项扶持政策,更好发挥其解决通用大模型安全问题的重要作用;同时建议国家研究制定保障通用大模型安全的标准体系,推动通用大模型开展安全评测、接入安全服务,降低通用大模型安全风险。此外,周鸿祎还建议政府、央国企与兼具“安全和AI”能力的企业在大模型安全领域展开深入合作。

周鸿祎认为,现阶段,将安全模块作为大模型外挂的做法已不可行,建议国家在内容安全、数据安全、科技伦理、网络安全等细分领域,牵头研究制定安全检测标准,在规范的安全标准体系下,推动通用大模型的安全评测工作,通过接入安全服务来保障大模型的安全。

大模型应用是周鸿祎关注的另一个重要方面。2024年被业内视为大模型应用场景元年。在《关于深化人工智能多场景应用支持大模型向垂直化、产业化方向发展的提案》中,周鸿祎认为,百亿规模的大模型就足够赋能百行千业,中国发展大模型的一个重要方向应该是借助产业和场景的优势,将大模型与业务流程、产品功能相结合,寻求多场景应用、垂直化和产业化的落地,助力加快形成新质生产力。

为此,周鸿祎提出“三个很重要”。首先,场景很重要,建议政府、央国企率先提供更多应用场景,聚焦“小切口、大纵深”,推动大模型垂直化、产业化落地。其次,知识很重要,基于“暗知识”的垂直大模型能更好解决企业问题,建议鼓励企业在定制AI前,做好知识管理,将企业大数据平台升级为企业知识平台。再次,业务融合很重要,建议鼓励和引导企业将大模型与数字化业务系统深度融合,同业务流程相结合,充分发挥大模型价值。

在《关于全面建设安全云、推广数字安全云化服务的提案》中,周鸿祎提出,以“安全即服务”的理念,通过建设云化数字安全基础设施“安全云”,集中数字安全能力,以云服务的方式向各机关企事业单位及个人输出安全效果。

具体建议包括三个方面:一是统筹建设数字安全公共服务基础设施,集中数字安全能力。二是改变重建设轻效果的思路,鼓励各单位购买数字安全云化服务,作为传统网络安全建设的升级路径。三是鼓励网络安全企业积极转型,以安全即服务的方式来为国家整体数字安全水平提升作出贡献,尤其是鼓励具备核心技术、被美国制裁的龙头企业发挥更大作用。

作者利益披露:转载,不作为证券推荐或投资建议,旨在提供更多信息,作者不保证其内容准确性。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
三六零
S
任子行
S
科创信息
S
绿盟科技
工分
1.12
转发
收藏
投诉
复制链接
分享到微信
有用 1
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
评论(1)
只看楼主
热度排序
最新发布
最新互动
  • 湖人总冠军
    关灯吃面的剁手专业户
    只看TA
    03-03 15:32
    利好国资云
    0
    0
    打赏
    回复
    投诉
  • 1
前往