登录注册
对于AI监管的一点思考
美美大魔王
2023-04-06 00:18:19
AI会产生问题吗?一定会,所以需要监管,否则无序发展,形成乱象,引发问题,阻碍正向发展。

那么首先提出问题:监管什么?

根据最近的新闻及可能的方向,大致提取一些关键词:数据安全,隐私,伦理,儿童保护

而根据这些关键词,可以看出大致的方向:

核心1:数据,对应的数据是否涉及安全,数据是否涉及隐私,数据是否涉及知识产权,数据是否正确无误导

核心2:是否积极正向,正确的价值观,是否作恶,对应的的是伦理,儿童保护。

因此,在这两个核心1和2上,我们可以再进行一些进一步的思考。

对于核心1:

核心1的问题是数据,也就是不符合的数据要甄别剔除,符合的才能投喂给AI,AI生成的数据是否符合规定。

数据——清洗———投喂———生成

这里肯定利好例如第一直接的网络安全类,内容审核类美亚柏科,某官媒等






第二利好就是符合规则的没有相关风险的数据公司,优质的语料库。比如优质的语料库可以大大减少相关风险的产生,而涉及用户隐私,涉及知识产权风险的数据公司,则需要需要数据清洗剔除上述风险点后才能投喂。已经符合相关规定不涉及上述风险点的数据公司则会更加利好。例如同方股份,每日互动等。





对于核心2:

这就更难了,如何判定积极健康?如何保持积极健康?如何判定输出正确的价值观?

例如这个问题在抖音等视频审核,直播审核上想必已经研究很久了。都是采取算法识别+人工审核,但依然会有很多问题。这个毋庸置疑

同时在文字领域,依然是采用关键词屏蔽,这里有多少漏网之鱼和误杀错杀的问题也举例了

而在于价值引导等方面,这里的终极还是在于AI对于相关内容的理解上

如果真的能做到完美,大概机器人走进家常也久能实现了

从这一点看来,例如神州泰岳的语义理解方向,还有很大的预期差。

语义问题是人工智能的终极性问题
作者利益披露:原创,不作为证券推荐或投资建议,截至发文时,作者不持有相关标的。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
国投智能
S
人民网
S
每日互动
S
神州泰岳
工分
8.22
转发
收藏
投诉
复制链接
分享到微信
有用 4
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
评论(4)
只看楼主
热度排序
最新发布
最新互动
  • 只看TA
    2023-09-17 20:42
    谢谢分享
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-04-07 18:07
    感谢分享,辛苦了
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-04-06 07:47
    点赞支持分享
    0
    0
    打赏
    回复
    投诉
  • 悬良赐股
    超短追板
    只看TA
    2023-04-06 07:08
    神州泰岳预期差很大
    0
    0
    打赏
    回复
    投诉
  • 1
前往