我们须要操作性定义。
撰文 | 顾凡及（复旦大学生命科学学院）
2019年年底，卡尔·施拉根霍夫博士（Karl Schlagenhauf）与我互助出版了一套三卷本《脑与人工智能》系列套书[1-3]。我们两位作者成长于完备不同的文化，且素未谋面：卡尔是一名对脑感兴趣的德国信息技能工程师和企业家，而我是一名对人工智能（AI）怀有兴趣（虽然是名生手）的中国大学的脑科学教授和科普作家。2013年初，一位共同的朋友，神经科学家汉斯·布劳恩（Hans Braun）教授先容我们相识，此后我们就一贯不断通信，谈论脑研究和AI方面的一些开放问题、现状评估和发展趋势，谈论若何看待两者的关系以及媒体有关这些领域的“吸睛”宣布，直至谈论科学方法论和干系的科学组织。这套书便是我们的主要通信记录凑集，纵然不说是绝无仅有的话，也还是很独特的。
《脑与人工智能》系列，上海教诲出版社2019年
我们这样极其不同的两个人得以坚持并不断加深友情，源于对脑科学和信息科学交叉领域的共同兴趣。并且，我们都喜好理性思考的方法，而且总是渴望深究事物的缘故原由和情由，而不是随大流或囿于学究式的思维。由于经历的不同，我们的不雅观点也有明显差异，这时我们会发扬科学辩论的古老传统来寻求办理。在某些问题上，我们达成了共识，而在另一些问题上仍旧存在不合，乃至还有某些问题根本就找不到答案。一些新进展支持了我们两人或者个中一人的意见，并鼓励我们进一步谈论。一些进展乃至超出了我们最好的期望，或者提示我们或个中一人的不雅观点错了，因此我们不得不重新考虑，并从缺点中吸取教训。所有这些都引发了我们的激情亲切，重新聚焦要谈论的问题，并不断开启新的辩论。这些辩论并非是要压倒对方以显示自己的高明，而是为了探索事实的原形。
对我们来说不幸的，同时也是幸运的，是这套书的出版机遇——2019年底。在接下来的三年多光阴中，人类碰着了两件大事——横扫天下的新冠大盛行和ChatGPT横空出世——这都是我们当初交谈时未能预见到的。这些事无疑分散了读者对我们书的把稳，同时也是对我们书中紧张思想的严苛磨练。在此期间，在脑研究和信息技能的交叉领域中也发生了一些引起轰动的事宜——虽然不能和上述两件大事相提并论——如马斯克的神经联结（Neuralink）脑机接口和霍金斯（Jeff Hawkings）的“千脑智能”理论。而引发我们谈论的欧盟人脑操持也即将到期，是非功过都到了将要盖棺论定的时候。
令我们感到宽慰的是，虽然我们像绝大多数人一样，未能预见到新冠大盛行和ChatGPT这样的详细事宜，但是回顾当初书中对脑研究和AI中存在的开放问题、现状评估和发展趋势的总体意见并没有重大失落误。2023年5月21日，我们这套书被付与“2022年上海科普教诲创新奖成果奖（图书类）”一等奖，可以看作为社会公众和专家对我们这些不雅观点某种程度切实其实定。
在这样的分外时候，翻出2018年年中三本书刚刚脱稿时我自己记下的“几个开放问题”和“几点预期”，看看当时的这些认识是否经得起这五年里惊涛骇浪的磨练，还是很故意思的。当然，这并非说我们的意见就一定都对，我们写那套书的目的并非是给读者什么定论，而只是提出问题，摆出自己的不雅观点和论据，主要的是希望勾引读者加入我们的思考和谈论。纵然脱稿已是五年前的事，本日再重新核阅这些问题并仔细思考，依旧不算过期。
下面列出的内容不管是对是错，都是当时的原话。
几个开放问题
1. 脑究竟是一种信息处理系统还是一种提取意义的机器？
2. 脑的功能基元是什么？（离子通道？突触？神经元？功能柱？…）
3. 对非陈述性影象所得的研究结果可以都推广到陈述性影象吗？
4. 脑中的打算是什么意思？神经元能进行图灵意义下的打算吗？
5. 智能是什么？智能与技能，智能与学习能力的关系究竟是什么？
6. 意识和意识的内容是一回事，还是两回事？
7. 查默斯的“意识困难问题”是意识研究的瓶颈还是一个伪问题？
8. 从原则上来说是否有可能做到心智上传？
9. 有没有自由意志？如何办理自由意志和决定论的抵牾？
10. 大型脑操持能办理的问题和不能办理的问题。
11. 是否有可能对全脑进行逆向工程来揭开脑的奥秘，和解决人工智能的终极问题？
12. 工程是否该当或可能复制大自然进化的统统策略？有没有脑样打算（brain-like computing）？
13. 人工智能与脑研究的确切关系是什么？
14. 仿神经芯片（neuromorphic chips）的出息如何？
15. 机器翻译能做到哪一步？
16. 有可能在可预见的未来实现强人工智能吗？如果能的话，该当不应该研发强人工智能？
17. 有没有“奇点”这一天？“奇点附近”的话可信吗？
18. 在冯诺伊曼架构下，靠增强打算机能力能实现脑的统统功能吗？
几点预期
技能将比脑科学发展得更快，但在可预期的未来，不会涌现“奇点”。技能将从脑科学研究中寻求启示，但是不能拷贝脑。这是由于大自然和工程师所采取的方法有根本性的不同。因此脑研究与工程技能依然会平行发展，但是会相互借鉴。建议把Brain-inspired的中文改为“脑启示”代替“类脑”以避免误解。
“大科学，团队科学和公开科学”将在脑研究的基本数据搜集、临床数据搜集、图谱和研究工具开拓方面取得显著进展，但是难望在建立脑科学的基本理论框架方面取得打破。
极少可能实现“心智上传”和通过“逆向工程”建立人脑的全脑模型。
无论对脑科学来说还是人工智能来说，当问题牵扯到心智、智能、意识等“内心问题”时，面临的共同瓶颈是“主不雅观性”，对此该当问的问题不是“主不雅观性是怎么产生的？”而是它产生的“充分和必要条件”是什么？在后一问题上会有稳步进展，但是难望在可预期的未来得到办理。
在极度须要节能的条件下，“仿神经芯片”（neuromorphic chip）可能取得主要运用。但是不能确定其是否能发展成新一代打算机系统。这将紧张取决于有多少人乐意抛弃传统打算机，而重新学习这新一代打算机的“生态系统”。
有望在介不雅观层次上，对许多局部神经回路的活动和机制研究上取得打破。
回顾差不多五年前写下的“开放问题”，提得并不系统，问题的大小和主要程度也参差不齐。个中一些，我已有了自己的判断（有的已写在上面的“几点预期”中了），而对另一些则依然茫无头绪。但这些问题至今依旧没有公论，“开放”如故。在本日的短文中，不可能以上每个问题逐一详细谈论，但可以看看，我们当初的紧张预期是否能经得起这五年惊涛骇浪般的磨练。
书中那些两人经由辩论而取得共识的地方，卡尔说服我要多于我说服卡尔。最令我印象深刻的一处是卡尔的论断：“物理学家特殊是工程师在本学科中的表现优于生命科学家，并且工程彷佛因此指数速率发展，而神经科学和医学的发展则可能只是按线性发展。”一开始，对付我——一位脑科学研究者——来说，这话听上去确实有些刺耳。但接着卡尔就举出科技史上的大量案例，使我不得不承认这一现实。
实际上，新冠疫情和ChatPGT问世也可算是对卡尔论断的明证：一边是一种构造大略到乃至算不算生命都难说的病毒肆虐环球，带来巨大的生命丢失和经济丢失，让全天下最聪明的脑袋惊悸失措，至今找不到万全之策；另一边，却有人流传宣传即将解开天下上最繁芜的系统——人脑，可以在十年或几十年里用打算机拷贝人脑。当马斯克戴着口罩在发布会上流传宣传不久可以通过植入芯片使人脑和人工智能融为一体而成超人，一种巨大的讽刺感迎面而来。（我讴歌Neuralink在技能上的重大进展，但它在思想上并无创新，而把人脑和AI领悟起来打造超人则纯属迷思）[4]。与医学的蹒跚形成光鲜比拟的是打算机科学的一骑绝尘，在不敷一个世纪里，从发明第一台占满全体房间的笨重电子打算机到ChatGPT横空出世，机器通过图灵测试已经不是天方夜谭，当我们和谈天软件对话时，如果不事先想好，刻意设置圈套，确实难以分辨对方是人还是机器。
多层次的脑：脑的各个层次相互影响，形成繁芜的循环因果关系。
卡尔早就提出，工程师不会从脑研究的结果中获益太多，走他们自己的路并忽略生物模型会有更好的结果。这也是我一开始难于接管的。虽然现在依然有许多人宣扬人工智能的瓶颈在于不理解脑，只有拷贝脑才能取得本色性的飞跃[5,6] ，但这五年来发生的统统证明并非如此。如果说神经网络和深度学习在开始时还有点受脑启示的影子（感想熏染野的多层次投射），那么其后ChatGPT的研发就完备是靠信息科学技能中的大模型和大数据了。
相反，走拷贝人脑的路线，无论在阐明心智机制方面，还是在运用上，迄今为止都没有什么骄人的造诣。欧盟人脑操持早就抛弃了拷贝人脑的目标，连续马克拉姆拷贝路线的“蓝脑操持”除了在神经元（或许还在皮层柱）层次上取得了一些仿真脑组织的造诣，并未在更高层次上实现任何认知功能[5]。霍金斯的“千脑智能”理论，不仅在神经根本上站不住脚，在实践上也依然是一纸空文[6]。已故的埃德尔曼模拟小脑所得的“仿脑机”（也便是达尔文机）虽然能在实验室中自由穿越波折小径，但今天真正在道路上行驶的无人汽车却完备是机器学习的产物，与小脑毫无关系（当然埃德尔曼的工为难刁难认识小脑机制有帮助）。
当然，我们的结论——“试图在硅片上通过逆向工程建立一种生物脑并没有太大希望”——还有待今后事实的进一步磨练。
五年来的事实一次又一次地证明：大型脑操持“将在脑研究的基本数据搜集、临床数据搜集、图谱和研究工具开拓方面取得显著进展，但是难望在建立脑科学的基本理论框架方面取得打破。”[1]确实，欧盟人脑操持的最大造诣是建立起供神经科学家共享的信息技能平台，蓝脑操持及其互助方美国艾伦脑科学研究所的紧张造诣是揭橥了鼠脑各个脑区神经元的分类图谱，许多国家的脑操持在连接组图谱上取得进展，所有这些大概能为将来的脑机制研究的打破供应根本资料，但是它们本身却并非是打破。正如陈省身教授所说,“科学上最伟大的创造都不是操持出来的”。对付首创性的研究和创造，“我们想到的是充满激情亲切的个人和小团队，就像小型研究快艇的船长及其船员，尤其是那些年轻的学生。”[1]不过，何时和何处会呈现出这样的个人或小团队，极难预言。
当前AI研发界中有一个普遍的问题，便是稠浊了脑功能中的第一人称视角（主体核阅其内心活动的视角）的问题和第三人称视角（第三者从察看犹豫察的视角）的问题。许多脑功能，特殊是高等功能，尤其是心智，可以从两种不同视角来看：第一人称视角和第三人称视角。前者如果要用一个词来表达，可能叫“内心活动”；后者如果也要只用一个词来表达，可能便是“行为”。
目前，“心智”还没有一个公认的确切定义，每每用其所涵盖的内容来解释。例如，维基百科的心智（Mind）条款中便是这样描述的：“心智是一组认知能力的总称，个中包括意识、想象、感知、思考、判断、措辞和影象，这些认知能力来自脑（有时包括中枢神经系统）。它常日被定义为一个实体的思想和意识的能力。它拥有想象力、识别力和欣赏力，卖力处理感想熏染和感情，从而产生态度和行动。”[7]
第一人称视角的内心活动是主不雅观的、私密的，只有主体自己才能体验，无法精确地分享给他人。第三人称视角的行为是广义的，包括统统可以不雅观察和丈量的活动。心智所涵盖的诸多方面同时具有这两种维度，在日常生活中人们常常对这两个方面稠浊不清。有时用一个词来混指这两个方面，有时用不同的词强调不同的方面，但是也没有明确的公认的分边界，这也是令我下笔时伤脑筋的一个问题。例如，感情（emotion）每每是一种统称，而感想熏染（feeling）则每每指内心感想熏染，表情（expression）则明显地只指感情的外在表现；类似地，觉得（sensation）强调感官对刺激的反应，可以客不雅观丈量，而知觉（perception）则是对刺激的主不雅观体验。当然，一牵扯到意识，主不雅观性和私密性就更为突出——意识有没有可以客不雅观丈量的方面，现在恐怕还是一个见仁见智的问题。只管人们提出“意识的神经干系凑集”听上去彷佛是可以客不雅观丈量的，但是这只是“干系”；并且，如果没有了主不雅观性和私密性，剩下来的还能叫意识吗？这彷佛也是个问题。
到目前为止，我认为，人工所能制造的都只能是从第三人称视角来看的方面，也便是模拟行为，对付第一人称视角的“内心活动”，还一筹莫展。问题是人们常常稠浊了这两者，把人工模拟的行为说成是成功“实现了人工的内心活动”，于是一些人开始评论辩论“人工意识”、“感情机器”。至于司空见惯的“意念掌握”（mind control），实在只不过是对脑旗子暗记的掌握，这样就会误导公众。
当然，我并非是断定永久也不可能实现人工内心活动。由于既然人脑有内心活动，而人脑归根到底也是一种物质系统，那就没有情由打消其他物质系统呈现出内心活动的可能性。我在这里强调的是，内心活动是高度繁芜的物质系统在特定条件（我们只是不知道这种条件是什么，和系统要繁芜到什么程度）下呈现出来的一种属性，而非独立于脑的存在。不过，到现在我们也还不知道究竟须要什么条件，才能呈现出“第一人称视角的感想熏染”。我们还不理解人所需的条件，更遑论理解人工系统的了。
确实，从运用的角度讲，我们可以撇开第一人称视角，而只谈论从第三人称视角看到的方面（也便是行为），并从这一角度给出某种操作性定义，这样就不致产生稠浊。例如美国天普大学打算机系王培教授给智能下的定义：在知识和资源不敷的情形下依然能适应的能力[8]。这便是完备从第三人称视角描写的智能的主要方面，无论对人类智能还是人工智能都适用。王培的定义已经足够广泛，能描写许许多多智能行为，并以此出发，建立他的纳思AGI系统来办理实际运用上的问题，这对付他的目的来说已经足够了。那么智能有没有从第一人称视角描写的方面呢？我想也是有的，如“理解”。以是我极不附和人工智能领域利用“自然措辞理解”这样的提法，我认为现阶段所做的只是“自然措辞处理”。
对当古人工智能方面的研究，我以为，如果用了类似生理学（或心智哲学）上的名词，那么该当在一开始便开宗明义地给出一个操作性定义，打消掉第一人称视角的方面。并且也不要把往后事情的结论用到和第一人称视角有关的问题上去。
在这一问题上，之以是不能把从第一人称视角体验到的征象“还原”到从第三人称视角阐明得了的机制上去，根本缘故原由是：前者发生在有极多层次的繁芜系统的高层，且这些层次之间存在的并非大略系统中的线性因果链，而是层次内部以及层次之间存在互为因果的“循环因果关系”。长期以来，自然科学一贯为基于线性因果链根本之上的还原论所统治，正式提出“循环因果关系”还只是上世纪末的事[9]。在对这种因果关系有更深刻的认识之前，希望办理人工“内心活动”的努力，如果不是挂羊头卖狗肉的话，也将很难实现。
参考文献
[1] 顾凡及，施拉根霍夫（Karl Schlagenhauf）著，顾凡及译 （2019）《脑研究的新大陆：一位德国工程师和一位中国科学家之间的对话》系列丛书，上海教诲出版社
[2] 顾凡及，施拉根霍夫（Karl Schlagenhauf）著，顾凡及译 （2019）《意识之谜与心智上传的迷思：一位德国工程师和一位中国科学家之间的对话》系列丛书，上海教诲出版社。
[3] 顾凡及，施拉根霍夫（Karl Schlagenhauf）著，顾凡及译 （2019）《人工智能的第三个春天：一位德国工程师和一位中国科学家之间的对话》系列丛书，上海教诲出版社。
[4] 顾凡及（2020）欲驾驭AI，先与AI共生：马斯克的“超人”操持能成功吗？返朴，2020年8月12日
[5] Fan X and Markram H (2019) A Brief History of Simulation Neuroscience. Frontiers in Neuroinformatics. 13(Article 32):1-28
[6] Hawkins J (2021) A Thousand Brains: A New Theory of Intelligence. Basic Books.
中译本：霍金斯著，廖璐等译（2022）千脑智能，浙江教诲出版社。
[7] https://en.wikipedia.org/w/index.php?title=Mind&oldid=911062349
[8]王培（2022）智能论纲要，上海科技教诲出版社
[9] Haken H (1996) Principles of Brain Functioning: A Synergetic Approach to Brain Activity, Behavior and Cognition. Springer.
中译本：哈肯著，郭治安、吕翎译（2000）大脑事情事理：脑活动、行为和认知的协同学研究。上海科技教诲出版社
本文受科普中国·星空操持项目扶持
出品：中国科协科普部
监制：中国科学技能出版社有限公司、北京中科星河文化传媒有限公司
特 别 提 示
1. 进入『返朴』微信"大众年夜众号底部菜单“佳构专栏“，可查阅不同主题系列科普文章。
2. 『返朴』供应按月检索文章功能。关注公众年夜众号，回答四位数组成的年份+月份，如“1903”，可获取2019年3月的文章索引，以此类推。
版权解释：欢迎个人转发，任何形式的媒体或机构未经授权，不得转载和摘编。转载授权请在「返朴」微信"大众年夜众号内联系后台。
