不发展才是最大的不安全
--对于马斯克请愿叫停GPT-5研发的看法
昨天,以马斯克为首的科学家给美国政府写请愿信,要求暂停GPT-5的研发,担心它“对社会和人类构成潜在风险"。
我认为这不影响中国发展自己的大语言模型,包括360在内的一些中国公司已经展示了自己的作品,实事求是来说,离GPT-4的水平还有两年差距。
现在担心风险为时尚早。
不管你愿不愿意,GPT都将引领一场新的工业革命,意义超越互联网和iPhone的发明。
它将带来生产力的大幅提升,进而提升国家竞争力。
中国一定要迎头赶上。
最近人工智能的指数级跃变确实让人有点措手不及。
我一直预测,GPT-6到GPT-8的版本就会产生真正的意识,甚至进化成一个新物种。
人类如何应对AI带来的未来安全挑战,谁也没法给出确定答案。
我曾经想过是不是在程序里加一句暗语,比如“天王盖地虎,宝塔镇河妖”,一提这句话,AI就能停止工作。
然而现在的发展态势,已经不是一句暗语或者拔掉电源就能控制的了。
人工智能的进化已经不以个人意志为转移了,哪怕是马斯克。
我自己就是做安全的,但我坚定地认为,不发展才是最大的不安全。
关于马斯克的请愿信,我不了解内幕,但我猜测是GPT的进化路上出现了超乎人类想象的现象。
真是这样我倒不奇怪,我认为GPT-4 已经是超级人工智能的雏形,早就出现了一些连它的创造者都无法解释的现象,比如涌现、幻觉、能力的迁移和逻辑增强。
就像猿猴进化成人,不知道在哪个节点会发生智力的突变。
对于人类如何与AI共处,目前的观点大致分为三派:
-“降临派”认为人类应该把知识献给AI,甘心做硅基文明的引导程序。
-“幸存派”有点躺平,认为只要我能生存,未来跟AI以什么样的方式共处都行。
-“拯救派”认为AI不是来取代人类的,而是来升级人类的,人类将迎来工业革命之后最大的生产力解放。
我比较认同“拯救派”的观点。
人类身小力薄,从来都不是靠体能和智能的进化站在食物链顶端的,我们靠的是不断发明和使用工具。
GPT就是这个时代最伟大的工具。
我们可以借助它的能力大幅提升生产效率,提高个体自身的能力,普通人也能解锁专业技能,发挥聪明才智。
通过人机协作的方式,我们将变成史上最强人类,智人2.0。
昨天我在发布会现场演示360GPT的时候也问了这个问题,它回答说“无论如何我们应该认识到AI仍处于婴儿期,需要在宽容和支持的基础上进行发展”。
看起来360GPT的求生欲满满。
这个答案我满意。
360周鸿祎
2023年3月30日