作为AI技术的领军者,AI会成为新时代的“原子弹”吗?进入2023年以来,科技界里仿佛没有了大事,只剩下了人工智能。人人都在谈论ChatGPT、科技圈开卷大模型、OpenAI估值节节攀升、大公司你追我赶,硝烟四起。而这一切繁荣的背后,其实都离不开三位人工智能研究者的工作——曾因提出和发展深度学习神经网络,在2019年获得计算机界最高荣誉“图灵奖”的GeoffreyHinton、YoshuaBengio、YannLeCun。
呼吁AI监管的声音越来越强
如果以上这些话从别人口中说出来,大家可能仍然会觉得这些观点带着危言耸听的意味。但当如今世界上人工智能领域最权威的专家、深度学习的奠基人GeoffreyHinton也这么说时,也引发了更多人开始认真思考和关注这个问题。
实际上,在此次GeoffreyHinton发声之前,最近几个月来人工智能领域就已经发起过两波大型的联名,呼吁谨慎地发展人工智能技术。
一次是由马斯克、YoshuaBengio等数千名来自学术界和企业界的大佬呼吁至少暂停6个月比GPT-4更强模型的研究的公开信。另一次则是由拥有40多年历史、人工智能领域最权威学术机构之一的人工智能促进协会(AAAI)的19名现任及前任领导人所发布的联名信,其中也包括了微软现任首席科学家、人工智能研究专家EricHorvitz。
虽然此前马斯克他们暂停模型研发的呼吁在业界受到了争议,包括YannLeCun、吴恩达在内的研究者都对停止研发“一刀切”的做法表示了反对,甚至也有人质疑马斯克等人提出暂停研发是为了私利。但目前看来,关于共同加强AI监管、预防潜在性危险发生的观点,大家的看法几乎都是一致的。
在今天GeoffreyHinton的报道发出后,吴恩达第一时间转发了GeoffreyHinton的推特表示支持,感谢Hinton对于人工智能技术所做出的不可估量的贡献,以及对人工智能在虚假信息、自动机器和劳动力影响方面的发声。
AI会成为新时代的“原子弹”吗?
在此次的访谈中,一个尤其引人关注的地方在于GeoffreyHinton在谈到AI风险时,多次提及了核武器。从一定程度上来看,GeoffreyHinton或许认为AI对人类社会的潜在危险并不亚于核武器。
他表示,跟核武器研究不同,现在AI研究更危险的地方在于,我们目前几乎没有办法知道有哪些组织或者国家正在秘密研究这项技术。理想的情况下,全球各国组织和科学家们应该共同进行合作和对技术进行控制,但显然现在很难做到这一点。
作为深度学习技术的发起人,GeoffreyHinton坦言自己目前甚至有些后悔进行了这项技术的研究。当潘多拉魔盒被打开,作为研究人员很难去防止不好的人利用这些技术去做不好的事。
而Hinton的这种说法也让人不由地想起了当年“原子弹之父”罗伯特·奥本海默相似的心路历程。当年,美国在广岛长崎投放原子弹两个月之后,奥本海默辞去了职务,之后他在担任美国原子能委员会顾问期间一直致力于游说国际机构对军备进行管制,并运用影响力宣扬控制核武器和核不扩散运动。
GeoffreyHinton说,以前人们问他如何从事具有潜在危险的技术时,他总会引用奥本海默的话:“当你看到一个东西拥有美妙的技术前景时,就尽管去做吧。”但现在,他已经不会再那样说了。
“人们不应该快速扩大AI研究的规模,直到足够了解自己是否能够控制它,”GeoffreyHinton说道。
以上就是作为AI技术的领军者,AI会成为新时代的“原子弹”吗?的全部内容,关注大新闻网,带你了解更多相关资讯。
猜你喜欢
