2023年，以“Chat GPT”为代表的人工智能（AI）技术成为全球关注的焦点，有问必答的AI给人们留下了深刻的印象，其无穷潜力被寄予厚望。
与此同时，与“Chat GPT”相关的风波不断走进大众视野。去年12月21日，有学者发表文章指出，通过“灰盒”访问技术，可以消除GPT-4核心保护措施，使用最新的微调API，就可以让Chat GPT输出有害信息，引起人们对AI安全性的担忧。12月27日，美国《纽约时报》状告Open AI和微软公司侵犯版权，轰动业界。
▲资料图
人工智能的这一轮崛起，具有怎样的历史意义？未来的发展具备哪些可能性？1月3日，北京大学国家发展研究院BiMBA商学院副院长杜晓梦接受红星新闻专访。杜晓梦认为，目前，Chat GPT就像是一个“博学的高中生”，其能否进入商用领域，还需要更多的探索和改造。在她看来，利用大模型在某一垂直领域深度钻研，开发出适合该领域的应用，发挥自身优势打出“差异化”，创造出有本土特色的优质产品，是一条值得考虑的发展路径。
——①——
“元宇宙”尚处“概念”阶段
自然语言的突破让AI更“像人”
红星新闻：信息技术有几种发展方向，如人工智能、区块链、云计算、大数据、虚拟现实等，它们的发展趋势是什么？
杜晓梦：技术的发展不是线性的，也许会在长时间的平缓期后突然出现一个拐点。
1956年，人工智能（AI）概念被提出。此后的60年里，人工智能已经历了2次爆发，分别是60年代中期出现的AI实验室，和80年代初期的专家系统。如今，我们或许正处于人工智能第三次崛起的时期。
值得注意的是，大数据、区块链、云计算等技术，为人工智能的崛起提供了支撑。这些技术往往混合、叠加在一起，不断推动彼此的发展。例如，AI的深度学习需要大规模的计算量、数据量，这就需要大数据技术和云计算的支持。区块链分布式存储的概念、大规模的加密和计算，和大数据也有紧密的关系。
在我看来，对于人类社会而言，信息技术发展最显著的意义之一，是大幅增加了数据利用的效率。在久远的过去，查询信息需要翻阅竹简龟背，而现在，直接在云端向Chat GPT提问就可以了，这项技术可以广泛地运用到各行各业中，分析、决策、检索查询、学习等场景都适用。
虚拟现实技术则更需要硬件的支撑，否则虚拟现实的场景就会难以落地。我认为“元宇宙”目前尚处于“概念”阶段，主要是因为缺乏体感优异的配套硬件。只有当硬件技术跟上软件的速度，虚拟现实领域才能有较大的发展。
红星新闻：信息技术的发展日新月异。近年来，阿尔法狗（AlphaGo）击败柯洁、Chat GPT的出现令人印象尤为深刻。您如何看待这两个现象级的人工智能项目？
杜晓梦：阿尔法狗是一个由3个十几层的深度卷积学习网络构成的巧妙组合。围棋需要精密的计算，阿尔法狗击败柯洁，就像是“秀肌肉”，展示的是人工智能应用的深度学习和计算能力。值得注意的是，阿尔法狗的开发团队Deep Mind，用他们的技术在节能减排、破解DNA密码蛋白序列等方面作出了贡献，这些是从行业角度来看更有意义的事。
▲2017年5月，柯洁与AlphaGo“人机大战”。图据视觉中国
Chat GPT是Open AI公司的项目之一。从技术上来说，Chat GPT是大规模对抗性神经网络训练的产物，参数数量十分庞大，量变引起质变，涌现出了一些超乎预期的效果。
Open AI公司还有很多应用于硬件存储、游戏开发的项目，知名度没有那么大。Chat GPT友好的交互性给大众留下了深刻的印象，用户数量很快突破一个亿，打出了品牌知名度。Chat GPT为很多人提供了新的视角、新的信息，是一个比较成功的面向大众的应用。
不过，Chat GPT是否能在行业里沉淀下来，能否进入商用领域，还需要更多的探索和改造。
红星新闻：人工智能技术可以分为感知、认知和决策三个层次，感知的代表是生物识别，认知的代表是自然语言处理。为何此次突破会出现在自然语言领域？
杜晓梦：在感知的应用方面，如计算机视觉、语音处理，人脑不如AI。决策方面包括智能驾驶技术、专家系统等，但对于非常重大的决策，AI不能替人做决定。
比尔·盖茨曾形容，“自然语言处理是人工智能皇冠上的一颗明珠。”语言和思维挂钩很紧密，一个人说的话，可以体现出他的思路和背后的逻辑。
语言是人类智能里非常核心的一部分，自从有了人工智能学派，自然语言处理的探索也就开始了，这也是人工智能领域一个核心的技术流派，有较多沉淀积累。人工智能试图从理解人的语言开始理解人的思维，也试图从模仿人的语言开始去模仿人的思维。
人与人的沟通，很大一部分是通过语言来完成的，除了词句，还包括说话时的停顿、语气、声音大小等。假设一个机器人冷冷冰冰地站在那里，他不与人沟通，即便长得很像人，你也不会觉得他是一个人。
让机器人与人沟通，是Chat GPT突破的核心问题。它给你带来了很好的交流体验，有问必答，会让用户觉得它是一个聪明的“人”。
另外，文字是非结构化数据里比较好分析的一种，也是大部分人工智能都会选择去突破的角度。相较而言，图片、影音、气味、触觉等分析起来难度要大得多。
——②——
开源使用不适合严谨的领域
“AI时代”本质上仍是人与人的竞争
红星新闻：已经有人在利用Chat GPT做学术研究，可靠吗？
杜晓梦：Chat GPT的特征之一是“有问必答”，绝不会让话掉地上。但需要注意的是，Chat GPT目前是使用开放式数据进行训练的，它会找到与问题对应概率最高的回应，组合出来提供给用户，但“概率最大”的情况不等于“真实准确”的情况，无法保证这个回应是100%准确。假如有很多人说1+1=3，它就会认为1+1=3。所以Chat GPT有时候还是会“一本正经地胡说八道”，比如有人让它讲讲“林黛玉倒拔胡杨柳”它也能说得头头是道，这对于车载系统、法务等容错率较低的行业来说是不可接受的。
目前，Chat GPT就像一个博学的高中生，它无法帮你去看某一个学科领域的论文，总结出其中的核心观点，不太可能完成严谨的学术研究。
不过，一个思路是未来可以尝试做一款针对特定领域的人工智能应用，例如一款专做产权法的人工智能应用，用大量该领域的闭源数据去训练它，加入大量产权法专家的意见和他们的知识路径。这样，人工智能就会越来越像这个领域的专家。但它需要较长的训练过程，需要非常缜密的训练语料，才能达到该领域的研究生水平。
另一方面，通过特定的提示词，作出更精准的限定，可以帮助Chat GPT给出更优质的答案。比如，提问时规定Chat GPT用专业财经报道的语言阐述这件事情，就限制了它回答时选用的语料范围，它可能就会摒弃一些非专业的词汇，用专业的语料组织答案，效果会更理想。
红星新闻：对于AI的兴起，一些家长担心孩子未来的竞争对手将是人工智能。在您看来，人工智能的普及是否会造成失业，若会，主要可能发生在哪些行业？如何帮助孩子们更好地迎接“AI时代”？
杜晓梦：在我看来，AI最先替代掉的可能是简单的信息搜索加工一类的工作、一些垂直领域的基础工作。不太可能被替代的，是一些“蓝领”行业，比如理发、疏通下水管道等。也许机器人技术将来可以取代这些工作，但相关技术目前发展得没那么快，而且造价很高。
另外，人情世故、权衡价值、判断利弊、判断价值观、复杂决策等，AI也无法完成，老师、医护人员以及需要作出复杂决策的总裁高管，AI是难以取代的。
▲测试中的自动驾驶汽车。图据视觉中国
我一直认为，技术是向善的，技术的进化是人进化的一部分。它能让人的效率变得更高，把人从枯燥的事情里解放出来，得以把时间精力放在更重要的事情上，推动着人向更好的方向发展。如果一项技术把“人”完全替代了，那说明人应该去从事更有创造力的工作，这也是劳动力结构化提升的一个表现。
技术的发展不会为任何一个人、任何一个企业，甚至任何一个国家停下脚步。所有的技术工业革命都伴随着失业，短期上来看会有“阵痛”。但从长期上来看，劳动力会流入到社会经济更需要的地方。
与其担忧，不如主动拥抱技术的发展，思考一下哪些行业、岗位可能获得技术的辅助，哪些工作可能会被技术替代。
另一方面，我认为AI提高人的工作效率，一些岗位所需要的劳动力可能会减少，但这未必意味着失业。假设一个原本需要10个人去做的工作，效率提高到只需2个人就能完成，但与此同时，由于企业拥抱了一项好的技术，在竞争中脱颖而出，接到更多的订单，有更多的业务，企业的规模扩大了，剩下的8个人依然有工作可以做，而且能完成的工作量是原先的5倍。
脱颖而出的企业，可能会把一些没有及时更新技术的企业挤占掉，劳动力离开被淘汰的企业，又可以进入新成长起来的企业中工作，让它的业务量越来越大，走向崛起。
对于个人而言，最重要的是愿意学习新的东西。如果从事的是一项可能会被技术替代掉的工作，又不愿学习新的技能，确实是一件“危险”的事情。对于校园里的年轻人而言，可以把目光放远一些，了解3~5年之后，一个行业可能会变成什么样，从而提前储备自己的技能。
对人来说，人工智能不会是一个竞争对手。本质上，还是人与人之间的竞争、公司与公司之间的竞争，看谁能更好地运用一项技术。
——③——
需要防范的不是技术本身
而是想用技术做坏事的人
红星新闻：有学者认为，应该对“AI时代”可能产生的伦理问题提高警惕。在您看来，AI技术的发展，可能产生哪些典型的伦理问题？我们应该如何应对？
杜晓梦：AI研究的领域里一直有研究伦理问题的分支，探讨人应该如何和人工智能共存。
很早就有人提出，AI、机器人发展到最后，会不会消灭人类？著名的“阿西莫夫机器人学三定律”，第一条就规定，“机器人不得伤害人类个体。”相应地，一个对话类的AI产品不应该给出诱导用户自杀的信息。
很多做人工智能技术的公司都有专门的道德委员会，把人的底层价值观、是非观嵌入到AI产品中。还需要考虑到，用户可能是青少年等判断力偏弱的群体。同时，用户在使用中发现的漏洞，道德委员会也能检测到，并及时作出反馈和弥补。
另一方面，有人会故意利用AI去做坏事。AI很明确的应用方向之一就是“深度伪造”（deepfake）。诈骗分子通过收集声音、样貌等生物特征，伪装行骗，这是一个值得反诈工作人员注意的问题，也需要大众提高防范意识，知道诈骗分子可以仅凭几分钟的录音，就合成模拟你的声音，伪装成你向父母、亲友要钱。对此，家人之间可以设计一些只有彼此知道的安全问题，以确认对方的身份。
技术只是一个工具。我们需要防范的不是技术本身，而是想用技术做坏事的人。与之相应的法律法规也是必要的。同时需要掌握适度的原则，既要规范行业本身，也要防止过紧的束缚阻碍行业发展。
▲企业展示“深度伪造”检测技术。图据视觉中国
红星新闻：信息时代，人们愈发担忧个人隐私信息的安全问题。面对强大的人工智能，我们该如何保护好自己的隐私？
杜晓梦：隐私保护是我们越来越重视的一个问题。首先需要明确，什么是“隐私”？
身份证号、手机号、家庭地址、聊天记录等，都是大家有共识需要保护的个人数据。一些平台可以根据用户的使用习惯，精准推荐用户感兴趣的内容，其背后也有大数据和AI的运作。
大数据应用最典型的两个场景，一个是电商的个性化推荐，一个互联网广告。就像一名推销员根据用户的喜好，向用户推荐他可能会购买的产品。那么像搜索记录、购物偏好是否算隐私？
一方面，这种技术可以让用户在海量的信息中迅速找到自己需要的内容，提高信息检索的效率。另一方面，一些用户会觉得偏好是搜索记录属于自己的隐私，宁愿放弃这种便利，也不希望平台监测。
对此，我认为商家需要保证用户的知情权和选择权，询问用户是否愿意让平台收集相关信息。同时，用户需要与平台约定，只能把这些信息用于平台内的相关服务，不得向第三方泄露个人信息。
红星新闻：目前人工智能技术的国际竞争格局是怎样的？人工智能是否能像当初的互联网一样，为国内企业创造巨大的机遇？
杜晓梦：AI作为数字科技的代表，是各国都在探索的技术。目前看来，美国这一轮以Chat GPT为代表的技术突破，已经和许多国家拉开了很大的差距。从语言的角度看，英语是目前的世界通用语言，有丰富的语料库，这是一个很大的竞争优势。在这个领域已形成“飞轮效应”，会发展得越来越快，可能需要几年的时间才能追上。
从国家的角度，自主创新、自主研发、实现技术可控是很重要的。但另一方面，由于国家之间已经形成了密切的交互，彼此依赖，我认为“技术脱钩”的可能性并不大。面对这样的局面，越是需要把目光放长远。太着急，可能反而会导致动作“变形”。我们与其急切地追赶，“重复造轮子”，不如静下心来，踏踏实实地研究基本技术，发挥自身优势，打出“差异化”，避免和对方在已形成显著差距的领域“硬刚”。
目前，国内大大小小的企业几乎都在使用人工智能和大数据技术。一些小公司尝试把大模型应用在某一个特定的领域，为该领域的用户提供很好的价值，做“小而美”的事情，这是我比较看好的发展方向。
类比目前的一些互联网平台，借助国外的技术，在本土生成一些优秀的模式，不仅适用于国内市场，还能走向世界，反推整个技术产业的发展，我认为是一条值得考虑的发展路径。
红星新闻：2023年被称为“AI元年”，展望2024年您认为AI的发展趋势是怎样的，会不会再有爆发式的增长？
杜晓梦：随着自然语言的突破，分析难度更大的图片、视频可能将是下一个会被突破的领域。有专家认为，2024年将是视频分析的“元年”。
大家都在期待，人工智能技术可以实现商用化的突破，作出有领域性的应用，让更多的企业愿意为之付费。对于技术本身而言，算法、计算框架在不断进步，一些交叉学科会探索如何将人工智能用在医疗、金融、制造、传媒、影视等更广泛的领域，适应那些容错率较低的应用场景。
在我看来，这将是未来三到五年一个非常大的发展机会，相信会有很多新的企业营运而生，发展、崛起。
专家简介：
杜晓梦，北京大学国家发展研究院助理研究员，BiMBA商学院副院长。北京大学光华管理学院营销建模专业博士，曾任百分点集团首席数据科学家。2018年获北京市科技新星。2019年获副研究员职称，并获得北京市科学技术二等奖。发表英文学术论文4篇，被EI收录，获得2020年英国Emerald出版集团“杰出论文奖”（Emerald Literati Outstanding Paper）。中文学术论文14篇，参与国家自然科学基金重点项目“基于全网数据的消费者行为与偏好研究”并主持子课题。
红星新闻记者 王语琤 蓝婧
编辑 张寻 责任编辑 魏孔明
