“有些人对大型措辞模型(类似于GPT-3)能做的事,有着不切实际的抱负……GPT-3对付这天下的运作办法一无所知。”
近日,LeCun忽然在脸书上揭橥了对GPT-3的意见。
LeCun表示,他的朋友已经进行了一些研究,冲破了人们对“大型措辞模型能被用于医疗保健行业中”的期待。

他认为,GPT-3“具有娱乐性子”,对付创造性事情来说,大概能起到一定浸染。
但除此之外,LeCun指出:“指望用做大型措辞模型的办法建智能机器,就跟努力造高原飞机、并期待它能登月一样不切实际。”
对此,网友炸开了锅。
到底怎么理解LeCun的评价LeCun认为,GPT-3有一定浸染,但不因此“理解”文本的办法运转。
它网络了许多文本,但当被哀求预测接下来的文本时,它实际上是根据“词汇涌现的概率”,而不是“天下运转的办法”来进行的事情。
获取知识vs理解措辞一部分网友的谈论,集中在GPT-3到底有没有理解天下上。
他们中的一部分认为,“获取知识”和“理解措辞”是两种不同的能力。
网友leftyted认为,对付GPT-3到底有没有理解能力,实在是个哲学问题,毕竟知识和措辞是两码事。
他认为,如果措辞里没有各种各样的隐喻,那么GPT-3在节制知识这方面,与人类有同样的能力。
△理解本身就很困难
但网友babesh认为,假如将措辞和知识分开谈论,那么GPT-3更无法得到天下的全部知识。由于很多东西能用感官觉得到,但如果没有想象力的话,这种感官上的“知识”根本无法存在。
GPT-3真的能用吗?另一些网友则认为,LeCun所说的“GPT-3无论是对话、还是问答能力都不太行”这个不雅观点,实在不太精确。
事实上,好些用过GPT-3网友表示,它的能力还是超乎想象的。
网友neuro_thing认为,LeCun能得出这样的结论,解释他的团队肯定做过干系研究了。
但就他利用GPT-3的情形来看,它很方便、且效果出色。不仅如此,这位网友还表示,就他所知,GPT-3已经取代了两位机器学习工程师的事情。
当然,也有人回嘴这样的不雅观点。
网友confuseshrink认为,纵然认为GPT-3很有用,但只要不信赖它的输出,乃至须要手动检讨结果,那它的确没有想象中那么有用。
“别对GPT-3上限有期待”也有一些网友认为,LeCun真正想表达的,实在不是GPT-3有没有浸染,而是它的上限究竟有多高。
网友moultano认为,LeCun本意并不是“GPT-3没什么特殊的”,只是他认为,连续堆叠大型措辞模型的做法,没有出息。
△“屋子再高,也登不上太空”
但无论如何,对付像GPT-3这样的AGI(通用人工智能)到底能走到哪一步,大神们都已经表达过自己的意见。
GPT-3:Hinton惊叹,Bengio和LeCun都不看好三位图灵奖得到者,Geoffrey Hinton、Yoshua Bengio和Yann LeCun,对关于GPT-3这类通用人工智能,给出了不同的意见。
Hinton表示,从GPT-3出色的性能可以推断,生命、宇宙和万物的答案“不过是4.398万亿个参数而已”。
不过,比较于Hinton的不雅观点,LeCun对付AGI这一类模型都不看好。
LeCun认为,无论是自监督学习、还是神经生物学,也不敷以实现通用人工智能(AGI),纵然是任何具有“理解”能力的智能机器,也不可能实现。
“AGI不存在——根本就没有通用智能这种东西。”LeCun认为,“可以说机器拥有老鼠级别的智力、猫级别的智力、狗级别的智力、人类级别的智力,但这些都不是AGI。”
比较之下,Bengio则认为,如果不从“理解”的角度去评论辩论通用人工智能,它或许也会有自己的浸染。
Bengio以为,机器末了的确可以得到、并利用关于天下的所有知识,但不因此“理解”措辞的办法,而因此类似于“口述”的办法。
不过,Bengio仍旧期待机器拥有“理解”能力。
“我认为,文化是人类如此聪明且能够办理问题的一个主要缘故原由……如果真的希望AI有点用,那么机器不仅须要翻译能力,更须要理解措辞的能力。”
Yann LeCun脸书主页:https://www.facebook.com/yann.lecun
参考链接:https://twitter.com/geoffreyhintonhttps://news.ycombinator.com/item?id=24907318&fbclid=IwAR2mN_6HoLeEumQzYmvDGJrE7SldBFhB98PHp0oaWAWugBx6xmYhBTCGKbAhttps://venturebeat.com/2020/05/02/yann-lecun-and-yoshua-bengio-self-supervised-learning-is-the-key-to-human-level-intelligence/https://venturebeat.com/2020/06/01/ai-machine-learning-openai-gpt-3-size-isnt-everything/
— 完 —
量子位 QbitAI · 头条号签约
关注我们,第一韶光获知前沿科技动态