AI会产生问题吗?一定会,所以需要监管,否则无序发展,形成乱象,引发问题,阻碍正向发展。那么首先提出问题:监管什么?根据最近的新闻及可能的方向,大致提取一些关键词:数据安全,隐私,伦理,儿童保护而根据这些关键词,可以看出大致的方向:核心1:数据,对应的数据是否涉及安全,数据是否涉及隐私,数据是否涉及知识产权,数据是否正确无误导核心2:是否积极正向,正确的价值观,是否作恶,对应的的是伦理,儿童保护。因此,在这两个核心1和2上,我们可以再进行一些进一步的思考。对于核心1:核心1的问题是数据,也就是不符合的数据要甄别剔除,符合的才能投喂给AI,AI生成的数据是否符合规定。数据——清洗———投喂———生成这里肯定利好例如第一直接的网络安全类,内容审核类美亚柏科,某官媒等第二利好就是符合规则的没有相关风险的数据公司,优质的语料库。比如优质的语料库可以大大减少相关风险的产生,而涉及用户隐私,涉及知识产权风险的数据公司,则需要需要数据清洗剔除上述风险点后才能投喂。已经符合相关规定不涉及上述风险点的数据公司则会更加利好。例如同方股份,每日互动等。对于核心2:这就更难了,如何判定积极健康?如何保持积极健康?如何判定输出正确的价值观?例如这个问题在抖音等视频审核,直播审核上想必已经研究很久了。都是采取算法识别+人工审核,但依然会有很多问题。这个毋庸置疑同时在文字领域,依然是采用关键词屏蔽,这里有多少漏网之鱼和误杀错杀的问题也举例了而在于价值引导等方面,这里的终极还是在于AI对于相关内容的理解上如果真的能做到完美,大概机器人走进家常也久能实现了从这一点看来,例如神州泰岳的语义理解方向,还有很大的预期差。语义问题是人工智能的终极性问题
作者利益披露:原创,不作为证券推荐或投资建议,截至发文时,作者不持有相关标的。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。