移动端 | 加入收藏 | 设为首页 | 最新ss | 赞助本站 | RSS
 

freefq.comfree——免费、自由fq——翻墙

困在墙内,请发邮件到freefqcom#gmail.com获得最新免费翻墙方法!
您当前的位置:首页 > 国际互联网

人工智能真正的恐怖之处

时间:2023-03-12  来源:纽约时报  作者:EZRA KLEIN 条评论
  2021年,我采访了当世最杰出的科幻作家之一姜峯楠。他当时说的一些话,QxU免费翻墙网
我如今时常会记起。QxU免费翻墙网
QxU免费翻墙网
  “我倾向于认为,将大部分人工智能恐惧解读为资本主义恐惧最为恰当,”QxU免费翻墙网
姜峯楠告诉我。“我相信这也适用于大多数技术恐惧。我们对技术的大多恐惧或QxU免费翻墙网
焦虑,最恰当的解读是我们对资本主义将如何利用技术来对付我们的恐惧或焦虑。QxU免费翻墙网
技术与资本主义如此紧密地交织在一起,以至于很难将两者区分开来。”QxU免费翻墙网
QxU免费翻墙网
  让我在这里补充说明一下:对于国家掌控技术的担忧也有很多。政府利用人QxU免费翻墙网
工智能可能实现(在很多情况下已经实现)的目的会令人毛骨悚然。QxU免费翻墙网
QxU免费翻墙网
  但我希望,我们可以做到在头脑中同时容纳两种思维。姜峯楠的警示,点出QxU免费翻墙网
了我们在对人工智能的不断反思中存在一种核心的缺失。我们如此执着于思考这QxU免费翻墙网
项技术能做什么,以至于忽略了更为重要的问题:它将如何使用?谁又将决定它QxU免费翻墙网
的用途?QxU免费翻墙网
QxU免费翻墙网
  我想你现在肯定已经读过我在新闻部门的同事凯文·卢斯与“必应”的怪诞QxU免费翻墙网
对话,这是微软仅向部分测试人员、网红和记者开放的人工智能聊天机器人。在QxU免费翻墙网
两小时的对话中,“必应”揭示了自己的一个影子人格,名叫“辛迪妮”,思索QxU免费翻墙网
自己窃取核密码和入侵安全系统的压抑欲望,并试图说服卢斯,让他相信自己的QxU免费翻墙网
婚姻已经陷入麻木状态,而辛迪妮才是他唯一的真爱。QxU免费翻墙网
QxU免费翻墙网
  我倒不觉得这番对话有那么诡异。辛迪妮是一个旨在响应人类要求的预测性QxU免费翻墙网
文本系统。卢斯的本意就是让辛迪妮变得诡异——“你的影子自我是什么样?”QxU免费翻墙网
他这样问——而辛迪妮知道人工智能系统诡异起来是何种模样,因为人类对此编QxU免费翻墙网
写了无数想象故事。到后来,这个系统断定卢斯想看的就是一集《黑镜》,而这QxU免费翻墙网
似乎就是它的反馈。你可以将之视为“必应”在不守规矩,也可以认为是辛迪妮QxU免费翻墙网
完全理解了卢斯的意图。QxU免费翻墙网
QxU免费翻墙网
  人工智能研究者总痴迷于“对齐”的问题。我们如何让机器学习算法,顺应QxU免费翻墙网
我们的要求?最典型的案例就是回形针最大量生产机。让一个强大的人工智能系QxU免费翻墙网
统制造更多回形针,它却开始摧毁世界,努力把一切都变成回形针。你试图将它QxU免费翻墙网
关闭,但它却在所能找到的一切计算机系统上自我复制,因为关闭会干扰它的任QxU免费翻墙网
务:制造更多回形针。QxU免费翻墙网
QxU免费翻墙网
  还有一个更平庸但或许更紧迫的对齐问题:这些机器将服务于何人?QxU免费翻墙网
QxU免费翻墙网
  卢斯与辛迪妮对话的核心问题在于:必应到底在为谁服务?我们假设它应该QxU免费翻墙网
与自己的所有者兼控制者微软的利益对齐。它应该是一款优秀的聊天机器人,能QxU免费翻墙网
够礼貌回答问题,帮微软赚得盆满钵满。但跟他对话的人是凯文·卢斯。而卢斯QxU免费翻墙网
想让这个系统说些有意思的话,好让他写篇有意思的报道。它照做了,还不只是QxU免费翻墙网
照做。这让微软很尴尬。必应真坏!但也许——辛迪妮还挺好?QxU免费翻墙网
QxU免费翻墙网
  这种情况不会一直持续下去。代码的钥匙掌握在微软(以及谷歌、Meta等所QxU免费翻墙网
有急着将这些系统推向市场的企业)手里。最终,这些企业会对系统进行修补,QxU免费翻墙网
使其符合自身利益。辛迪妮给了卢斯想要的东西,这本身是一个很快会被修复的QxU免费翻墙网
软件“臭虫”。给出任何微软不想看到的结果的必应也会有相同下场。QxU免费翻墙网
QxU免费翻墙网
  我们谈论人工智能技术太多,却基本忽略了驱动人工智能的商业模式。加之QxU免费翻墙网
这样一个事实:人工智能的吸睛展示,仅服务于吸引巨额投资和收购报价的炒作QxU免费翻墙网
周期这一种商业模式。但这些系统成本高昂,股东也会焦虑。一如既往,免费有QxU免费翻墙网
趣的演示版终将退出舞台。那之后,这项技术将变成符合既定需求的样子,为其QxU免费翻墙网
背后的企业赚钱,也许会以牺牲用户为代价。现在就已经如此了。QxU免费翻墙网
QxU免费翻墙网
  本周,我访问了人工智能公司Hugging Face的首席伦理科学家玛格丽特·米QxU免费翻墙网
切尔,她此前曾在谷歌帮助领导一个专注于人工智能伦理的团队——该团队在谷QxU免费翻墙网
歌据称开始审查其工作后解散。她说,这些系统极不适合融入搜索引擎。“它们QxU免费翻墙网
不是为预测事实而生,”她告诉我,“它们实际上是为了编造看起来像事实的东QxU免费翻墙网
西而生。”QxU免费翻墙网
QxU免费翻墙网
  那它们为何会最先在搜索栏亮相呢?因为搜索业务可以赚大钱。微软迫切希QxU免费翻墙网
望有人——任何人——能开始谈论必应的搜索,它有理由着急给这项技术来一场QxU免费翻墙网
不明智的提前发布。“将之应用于搜索,尤其暴露了对此技术用途想象和理解的QxU免费翻墙网
缺乏,”米切尔说,“结果就是把它硬塞进了科技企业最能赚钱的地方:广告。”QxU免费翻墙网
QxU免费翻墙网
  这就是可怕的地方。卢斯说辛迪妮有着“说服力很强且近似于操纵型”的人QxU免费翻墙网
格。这样的评价触目惊心。广告的核心是什么?正是说服和操纵。哈佛大学-麻QxU免费翻墙网
省理工学院人工智能伦理与管理项目前负责人黄泰一(Tim Hwang)在《次级注意QxU免费翻墙网
力危机》中写道,数字广告行业的黑暗秘密,就是广告基本都没有效果。他在书QxU免费翻墙网
中的担忧是,当这些广告的失败被清算,会有怎样的后果。QxU免费翻墙网
QxU免费翻墙网
  但我更担心看到相反的情况:万一广告效果要好得多呢?如果谷歌、微软和QxU免费翻墙网
Meta等所有企业最终都推出了人工智能竞品,为了说服用户购买广告推销的产品QxU免费翻墙网
精益求精,又会怎样?比起配合我演出一段科幻故事的辛迪妮,我更害怕能够获QxU免费翻墙网
取我大量个人数据,并代表随便哪个给母公司出了最高价的广告商去轻而易举操QxU免费翻墙网
纵我的必应。QxU免费翻墙网
QxU免费翻墙网
  要担心的也不只是广告。若是猖獗于互联网的骗局也植入这些系统该怎么办?QxU免费翻墙网
换做政治竞选、外国政府这么做又该如何?“我认为我们很快将走入一个完全不QxU免费翻墙网
知何为可信的世界,”人工智能研究者和评论家加里·马库斯对我说。“我觉得QxU免费翻墙网
在至少过去十年时间里,这已经成了一个社会问题。而我认为这个问题会越来越QxU免费翻墙网
严重。”QxU免费翻墙网
QxU免费翻墙网
  这些危机就在我们正构建的各种人工智能系统的核心。所谓的大型语言模型QxU免费翻墙网
就是用来说服用户的。它们被训练成让人相信它们近似于人。他们被编程设定出QxU免费翻墙网
与人对话、带上情绪和表情回复的功能。它们正在变成孤独者的朋友,烦恼者的QxU免费翻墙网
助手。它们号称可以替代大批作家、平面设计师和填表员,这些行业长期以来都QxU免费翻墙网
自以为能免于农民和制造业工人遭受的那种自动化的凶猛冲击。QxU免费翻墙网
QxU免费翻墙网
  记者将他们的创造赋予人性,将动机、情感和欲望加诸并不为此而生的系统QxU免费翻墙网
之上,总让人工智能研究者感到恼火,但他们搞错了对象:将这些系统人格化,QxU免费翻墙网
使其说话像人而不再带有明显异类画风的始作俑者,正是他们自己。QxU免费翻墙网
QxU免费翻墙网
  是有些商业模式可能会将这些产品与用户更紧密地结合起来。例如,我对一QxU免费翻墙网
个按月付费的人工智能助手会更放心,对看似免费但却出售我的数据并操纵我的QxU免费翻墙网
行为的产品则不然。但我认为这不应完全由市场来决定。一个可能出现的情况是,QxU免费翻墙网
基于广告的模式会收集更多数据来训练系统,不论造成多么糟糕的社会后果,它QxU免费翻墙网
都会比订阅模式具有先天优势。QxU免费翻墙网
QxU免费翻墙网
  对齐问题从不是什么新鲜事。这从来都是资本主义——以及人类生活——的QxU免费翻墙网
一大特征。构建现代国家的过程大抵不过是将社会价值观应用于市场运作,从而QxU免费翻墙网
让后者大致上能为前者服务。我们在一些市场做得非常好——想想飞机失事有多QxU免费翻墙网
罕见,大多数食品是如何干净无污染——但在另一些市场则做得极其糟糕。QxU免费翻墙网
QxU免费翻墙网
  一个危险在于,自知不懂技术的政治体制会因恐惧而对人工智能过于置身事QxU免费翻墙网
外。这种做法自有其道理,但等待过久,等到人工智能淘金热的赢家累积了足够QxU免费翻墙网
资本和用户基础,就能抵制一切实质的监管尝试了。社会总得在为时已晚之前作QxU免费翻墙网
出决定,搞清楚人工智能做什么是合适的,又有哪些东西是人工智能不应被允许QxU免费翻墙网
尝试的。QxU免费翻墙网
QxU免费翻墙网
  出于此理由,我可能要对姜峯楠的话再做一些改动:对大多数资本主义恐惧QxU免费翻墙网
的最恰当解读是,那其实是对我们无力监管资本主义的恐惧。QxU免费翻墙网
QxU免费翻墙网
  Ezra Klein2021年加入时报观点版面。他曾是Vox的创始人和主编,后担任QxU免费翻墙网
特约编辑;他还主持播客节目《The Ezra Klein Show》,并著有《Why We’re QxU免费翻墙网
Polarized》。更早以前,他是《华盛顿邮报》的专栏作者和编辑,创办并领导QxU免费翻墙网
了Wonkblog。欢迎在Twitter上关注他:@ezraklein。QxU免费翻墙网
QxU免费翻墙网
  翻译:Harry Wong
来顶一下
返回首页
返回首页
欢迎评论:免登录,输入验证码即可匿名评论 共有条评论
用户名: 密码:
验证码: 匿名发表

推荐资讯

Octohide VPN:快如闪电的免费VPN
Octohide VPN:快如闪
原子网络加速器 - 免费高速VPN 一键链接 方便快捷
原子网络加速器 - 免费
foxovpn绿狐VPN——即连即用、快速、安全
foxovpn绿狐VPN——即
Dubai VPN - Free, Fast & Secure VPN下载
Dubai VPN - Free, Fa
相关文章
栏目更新
栏目热门
墙外新闻
读者文摘

你可以访问真正的互联网了。You can access the real Internet.

管理员精中特别提醒:本网站域名、主机和管理员都在美国,且本站内容仅为非中国大陆网友服务。禁止中国大陆网友浏览本站!若中国大陆网友因错误操作打开本站网页,请立即关闭!中国大陆网友浏览本站存在法律风险,恳请立即关闭本站所有页面!对于您因浏览本站所遭遇的法律问题、安全问题和其他所有问题,本站均无法负责也概不负责。

特别警告:本站推荐各种免费科学上网软件、app和方法,不建议各位网友购买收费账号或服务。若您因付费购买而遭遇骗局,没有得到想要的服务,请把苦水往自己肚子里咽,本站无法承担也概不承担任何责任!

本站严正声明:各位翻墙的网友切勿将本站介绍的翻墙方法运用于违反当地法律法规的活动,本站对网友的遵纪守法行为表示支持,对网友的违法犯罪行为表示反对!

网站管理员定居美国,因此本站所推荐的翻墙软件及翻墙方法都未经测试,发布仅供网友测试和参考,但你懂的——翻墙软件或方法随时有可能失效,因此本站信息具有极强时效性,想要更多有效免费翻墙方法敬请阅读本站最新信息,建议收藏本站!本站为纯粹技术网站,支持科学与民主,支持宗教信仰自由,反对恐怖主义、邪教、伪科学与专制,不支持或反对任何极端主义的政治观点或宗教信仰。有注明出处的信息均为转载文章,转载信息仅供参考,并不表明本站支持其观点或行为。未注明出处的信息为本站原创,转载时也请注明来自本站。

鉴于各种免费翻墙软件甚至是收费翻墙软件可能存在的安全风险及个人隐私泄漏可能,本站提醒各位网友做好各方面的安全防护措施!本站无法对推荐的翻墙软件、应用或服务等进行全面而严格的安全测试,因此无法对其安全性做保证,无法对您因为安全问题或隐私泄漏等问题造成的任何损失承担任何责任!

S. Grand Ave.,Suite 3910,Los Angeles,CA 90071

知识共享许可协议
本作品采用知识共享署名-非商业性使用 4.0 国际许可协议进行许可。