全球快讯:LeCun：ChatGPT是「外星人」，所以才会胡说八道
LeCun 现在是彻底不搞技术了？？？
最近他开始从社会科学的角度分析起了爆火的聊天机器人：
(资料图)
为啥 ChatGPT 很容易就会胡说八道？
只因它是外星人。
（听起来是有点子哲学意味在里面的）
而文章中提到的观点，可是引起了网友们的热烈讨论。不少网友纷纷表示赞同：
说得太准确了。
一起来看～
ChatGPT 为什么不能像人一样？
当然，要把 ChatGPT 这类聊天机器人和人放在一起比较，那就得先从人开始入手了。
第一个问题：
一般情况下，人为什么不会胡说八道，甚至说出一些 " 反人类 " 的话？
文章给出了三点原因：
（1） 社会规范：人们不仅要主动遵守外部社会规范，还要受到人体内在规范的约束。
（2） 惩罚违反者：这里的惩罚更侧重在社交层面的惩罚，违反交谈规范的人容易遭到群体的 " 排斥 " 甚至 " 孤立 "。
（3） 规范已经内化于情感：违反规范时会愤怒，被冒犯会厌恶，被抓住说谎时会羞耻……
而基于这些原因，人们在讲话之前都会自然而然过滤掉一些言论，以确保更符合社会规范以及自己的内在规范。
（嗯嗯。当代年轻人现状：表面笑嘻嘻，内心 mmp）
相较于人类，它们讲话似乎就更随心所欲，我们没说出来的潜台词它全说出来了。（Doge）
比如说，ChatGPT 的老毛病：胡说八道，最初提示词稍微换个说法，就能让 ChatGPT 写出毁灭人类计划书。
为什么 ChatGPT 不能像人们一样遵守社会规范呢？
原因有三：
（1） 它不需要承担违反社会规范的压力，即使承认自己犯错并道歉后，它也并未意识到原因。
（2） 它们没有内在目标，它们的唯一任务就是交谈。
（3） 它们更聚焦在当下的对话，脱离了更大的社会语境，根本不理解人类表达的方式。
在论文中，LeCun 更是直接指出：
ChatGPT 是 " 外星人 "，它根本就不理解并认同社会规范。
也就是说，ChatGPT 只是为了交谈而交谈，而人类在互相交谈时是有社会文化驱动的。
网友讨论
LeCun 的这一通从社会科学角度的分析可是引起了网友们的激烈讨论。
一边，网友们对 LeCun 的分析啧啧称奇：
这项工作实在是太棒了。
它们（聊天机器人）根本不会使用语言。
这只是一堆软件把程序设定的东西吐出来而已，根本就没有意识。
现在一个机器人心理学家在解释糟糕的程序设计。
另外一位作者需要好好介绍下。
而人工智能哲学，也在试图回答这几个问题：
AI 可以有智慧的运作吗，可以解决人透过思考处理的所有问题吗？
AI 和人类智慧本质上是一样的吗？
AI 会有精神、心理状态和意识吗，能感知东西吗？
对于 LeCun 在论文中的观点，你是怎么看的呢？
论文地址：
https://www.noemamag.com/ai-chatbots-dont-care-about-your-social-norms/?utm_source=noematwitter&utm_medium=noemasocial
参考链接：
https://twitter.com/ylecun/status/1633459264508542978
标签：
