《我看见的寰宇》既是李飞飞的个东谈主史，亦然一部波涛壮阔、放诞升沉的东谈主工智能发展史。在这本书里，李飞飞回忆了我方从底层外侨成长到顶尖科学家的经历。她渡过了窘迫重荷的青少年期间足球赌注平台，但对科学的属目不停激励着她持续追寻东谈主生的“北极星”，并最终走进科学的殿堂。

李飞飞曾经创建当代东谈主工智能的要道催化剂ImageNet，曾经担任谷歌云东谈主工智能及机器学习首席科学家，但她长期秉持着身为学者的审慎态度，对于东谈主工智能的发展主义提议我方的判断和警觉。2015年，许多东谈主工智能的数据库缺少各样性，导致了一系列想到除外的戒指，例如，将黑东谈主青少年特殊地象征为“大猩猩”。她相识到，这是因为科技行业的代表性不及，导致算法偶而中带有偏见，在处理非白东谈主、非男性用户信息时发达欠安。她和同事一皆推进了AI4ALL名目，致力于复旧女性、有色东谈主种和经济转折的学生参与到东谈主工智能领域，以对抗偏见的产生。

李飞飞相识到，东谈主工智能不仅是一种科学，也不仅是“表象”“颠覆”“谜题”“特权”或“天然之力”，东谈主工智能更是一种使命，是咱们所有东谈主共同承担的使命。她提议，医疗等领域的标准、前例和伦理基础是历程几个世纪甚而几千年的时候树立起来的，比较之下，东谈主工智能还处于发展的早期阶段，其自己简直莫得明确的伦理准则。这个领域的自我相识之路才刚刚起步。因此，缺少伦理框架的不单是是谷歌，也不单是是年青工程师，而是咱们所有东谈主。

经出书社授权，第一财经节选了书中部分篇章，以飨读者。

无东谈主可控（No One's to Control）

从ImageNet期间启动，领域的首要性就照旧不言而喻，但频年来，“越大越好”的不雅点简直被赋予了宗教般的兴致兴致。媒体上充斥着城市街区大小的服务器顺次的图片，对于“大数据”的辩论永接续断，不停强化着这么的不雅点：领域是神奇催化剂，是机器中的阴灵，不错将东谈主工智能的旧期间与令东谈主窒息的黑甜乡未来永别开来。虽然关连分析可能会有些简化，但践诺上并莫得错。莫得东谈主能否定，神经采集照实在这个资源丰富的期间茁壮发展：惊东谈主的数据量、大领域分层架构和巨额互联的硅片照实带来了历史性变化。

这对科学意味着什么呢？若是咱们的事业诀要不错简化为赤裸裸的量化，简化为蛮力制胜，那么悉力想考和创新又有什么兴致兴致呢？若是一些想法在层数太少、锻真金不怕火样本太少或GPU太少的情况下似乎会失败，而在数目增多到充足多的时候倏得又不错高效运转，那么对于算法的里面运作机制，咱们又能得到什么培育呢？咱们发现我方越来越多地从阅历角度不雅察东谈主工智能，就好像它是我方出现的一样，仿佛东谈主工智能是需要先识别、后贯通的东西，而不是凭据第一旨趣假想产生的时候。咱们与东谈主工智能之间的关系正在发生革新，对我这么的科学家而言，这么的远景令东谈主深想。在谷歌云的新职位上，我不错俯瞰越来越依赖于各个层面时候的寰宇，但咱们不可坐而论谈、嗟叹于一切的神奇。这种挥霍咱们背负不起。新一代东谈主工智能所能作念的一切，不管是好是坏，不管是在预期之内，照旧在想到除外，都因其假想自己缺少透明度而变得复杂。神经采集的结构自己充满了精巧颜色，它是由微小的、权重玄妙的方案单位构成的庞大集中体。这些方案单位孤随即看毫无兴致兴致，但以最大的领域组织起来时，却遒劲得令东谈主嗟叹，简直无法为东谈主类所贯通。咱们不错从表面的、玄虚的兴致兴致上指摘神经采集：它们能作念什么，它们达到计划需要什么样的数据，它们锻真金不怕火后的性能特征大约在哪个范围；但从一次调用到下一次调用，它们在里面到底作念了什么，却是完全不透明的。

由此带来的后果绝顶令东谈主担忧，这便是一种被称为“对抗袭击”的新式恐吓。在对抗袭击中，输入内容的独一目的是诱导机器学习算法，以达到反直观甚而顽固性的目的。例如来说，一张相片看上去是描摹了某种明确的事物（比如蓝天地的长颈鹿），但不错通过单个像素神气的微小变动进行修改。尽管这种像素神气的变化是东谈主类肉眼无法察觉的，却会在神经积累首引发一连串的故障。若是对抗袭击假想顺应，虽然原始图像看起来莫得任何变化，但算法会把“长颈鹿”这么的正确分类变成“书架”或“怀表”等特殊分类。先进时候无法辩认野无邪物相片的场景可能会让东谈主认为可笑，但若是对抗袭击的目的是愚弄自动驾驶汽车，导致汽车对泊车标记，甚而东谈主行横谈上的儿童进行特殊分类，就皆备不可用可笑来描画了。

天然，进步工程时候水平可能会有所匡助。“可解释的东谈主工智能”，或简称为“可解释性”，正在成为新的议论主义，令东谈主备受荧惑。可解释的东谈主工智能试图将神经采集近乎神奇的筹备进行简化，革新成东谈主类不错仔细议论和贯通的体式。但关连议论尚处于起步阶段，无法保证省略达到其复旧者所祈望的高度。与此同期，这项时候所要解说的模子却照旧启动活着界各地巨额出现。

即使是完全可解释的东谈主工智能也只是是第一步。若是在算法假想完成后，再加入安全性和透明度等洽商身分，不管假想得何等精妙，都不及以中意条目。下一代东谈主工智能必须从开发之初就给与与面前完全不同的理念。以情感为首先天然很好，但咱们要面临的是纷纷复杂而又不起眼的挑战，要赢得真实的进展，就必须有敬畏之心。而硅谷似乎缺少这种心态。

学术界早就相识到东谈主工智能可能会带来负面冲击，比如缺少透明度、容易受到偏见和对抗性影响等等。然而，由于议论领域有限，风险一直只存在于表面层面。我的实验室最有现实影响力的事业是环境智能议论。由于临床端正的制约，咱们对事业心理保持严慎和克制，因此有充足的契机来唐突关连隐患。但面前，市值接近万亿好意思元的公司照旧掌执了主导权，潜在风险的发展圭表也急剧加速。不管是否准备就绪，这些问题都需要以交易速率加以惩处。

每个问题单独来看都令东谈主担忧，但它们共同指向了一个未来，其特色是监督减少、不对等加重，若是处理不妥，甚而可能导致一衣带水的数字独裁主义问题。走在全球最大公司之一的走廊里，我不禁堕入千里想，问题果真很疼痛，尤其是洽商到同事们的诚心和良苦精心。这些都是轨制性问题，而不是个东谈主问题。面前还莫得出现胡子拉碴的典型无赖，咱们还莫得遇到真实的现实问题，此时提议这些挑战，只会让东谈主愈加困惑。我纪念起与阿尼同事的情状，想起那时要在几家病院部署手工制作的微型原型开采是何等转折。在高度严慎的医疗领域，创新是迟缓张开的，虽然有时令东谈主消沉，但总体上也让东谈主感到快慰。我想知谈医疗领域的作念法是否值得平淡效仿。

硅谷的骄气派头向来为外界所诟病。在东谈主工智能期间，尽管咱们对潜在风险的通晓不停加深，企业的过甚其辞也高潮到了新的高度。首席推行官们活着界各地的舞台上发表主题演讲，有些内容明察其奸，有些则粗劣不胜，还有一些是重新至尾的侮辱。企业高管们应允将在不久后推出自动驾驶汽车，假想出精粹精深的肿瘤检测算法，结束工场的端到端自动化。至于被先进时候取代了事业的东谈主（出租车司机、远程卡车司机、装置线工东谈主甚而辐射科医师）的气运，交易领域的派头似乎介于半心半意的“再培训”和简直不加装扮的漠不热心之间。

不管首席推行官和自重为未来学家的东谈主的言论如何透顶脱离公众，时候的日益普及都会进一步加重东谈主们对东谈主工智能的畏怯。在这个期间，里程碑接二连三地出现，最可怕的情状正在贴近。在东谈主工智能领域的历史上，第一次出现了流血事件。

在亚利桑那州坦佩市，优步先进时候集团正在测试一辆自动驾驶原型汽车。伊莱恩·赫茨伯格（Elaine Herzberg）推着自行车过马路时，被这辆车撞倒身一火。两年多前，优步规划了卡内基梅隆大学机器东谈主系团队下野记，而面前，优步的自动驾驶名目成了公众嘲讽的对象。若是说东谈主工智能如今频频遇到偏见让我和同事们感到酸心，那么咱们面前的感受则无法用言语来描画。优步的品牌照旧威风扫地，其原因与时候自己关系不大。尽管咱们很容易将事故颓靡于优步，但很赫然，这皆备不会是临了一个访佛的事故。

果真，更多培育很快就出现了。2016年，ProPublica1的一系列造访泄漏，有偏见的东谈主工智能被平淡应用于处理贷款苦求，甚而协助法官作念出假释决定等方面。访佛的报谈还泄漏，在某些招聘中，求职者会先历程东谈主工智能时候的筛选，然后才有真东谈主口试官进行口试。此类作念法时常会在偶而中酿成讨厌性影响，这极少并不令东谈主不测。伊莱恩·赫茨伯格的去世理所天然地导致优步自动驾驶团队肃清，并对所有这个词领域酿成了负面影响，但上述更玄妙、更机构化的伤害却不可能马上得到校正。关连问题简直是鸦雀无声的，影响范围更广，而监管则少之又少。期待出现雷同进度的民愤是不现实的。但好在公众相识在不停进步，媒体也相识到，当触及东谈主工智能的报谈时，不应淡薄偏见、公推辞阴事等问题。

无法问责算法、特定东谈主群受到对抗正待遇、一个东谈主不测去世，这些都是东谈主工智能领域出现的新场所。谛视场所，我得出论断：浅薄的标签照旧不再适用。甚而连“失控”等措辞都显得委婉。东谈主工智能不是表象，不是颠覆，不是难题，也不是特权。咱们面临的是一种天然力量。它是如斯宏伟，如斯遒劲，如斯财迷心窍，既能削弱激勉灵感，也很容易残害一切。要让东谈主工智能值得信任，需要的远不啻交易公司贫寒的夏炉冬扇。

东谈主工智能甚而不是科技界对人人利益的独一恐吓，这使得情况变得愈加复杂。在东谈主工智能领域出现问题的时候，剑桥分析公司也爆丢脸闻。在2016年好意思国总统大选期间，公众渊博对不实信息示意担忧。对于酬酢媒体和新闻源过滤气泡的不良影响的报谈也在不停增多。各样事件都有一个共同之处：寰宇正在渐渐相识到，数据不仅有价值，何况具有影响力，甚而不错产生前所未有的决定性影响。

到2018年，照旧莫得东谈主再质疑其中的利弊关系了。对脸书和Instagram等酬酢媒体应用的审查不停加强，因为它们提供的超个性化内容可能会导致青少年出现抑郁和霸道。酬酢媒体把握东谈主工智能打磨定制化内容，以结束最猛进度的“用户参与”，这种趋势令东谈主不安。亚马逊使用一系列监控器具（包括监控腕带）及时跟踪工东谈主的事业效用，这种仓库顾问风景受到媒体抨击。微软在试图推行其东谈主工智能面部识别时候时，遭到了阴事权认识者和公民摆脱组织的品评。我我方也被卷入争议的中心。那时谷歌云与好意思国国防部坚强的一份协议（里面称Maven名目）引发了平淡的争论。几个月后，垂危阵势从公司里面彭胀到媒体，从新燃烧了人人对于时候在军事事务中所上演变装的历久争议。科技收敛波涛照旧驾临，东谈主工智能难以独善其身。

（本文节选自《我看见的寰宇：李飞飞自传》第十一章《无东谈主可控》。）

《我看见的寰宇：李飞飞自传》

[好意思] 李飞飞 著 赵灿 译

中信出书社 2024年4月

举报 著作作家

李飞飞

经济东谈主的东谈主文教诲阅读 关连阅读 国内首家东谈主工智能尺度化议论机构落地北京亦庄

08-25 19:44 好事业是如何变坏的｜荐书

跟着疫情的暴发，居家办公使家庭和事业之间的分界线清除了。

经济东谈主的东谈主文教诲阅读 08-22 22:30 陈说：近六成中企野心在未来一年新增数字化转型投资

大领域应用生成式东谈主工智能将开释无数经济价值

08-21 21:08 从创新假想到新城开发，上海书展上的城市开采亮点

第20届上海书延期间，一些对于城市基础顺次开采的新书上市，迷惑东谈主们关注刻下上海城市发展的新场所新问题，并展示了专科议论后果。

文旅产业与城市更新 08-21 11:21 2024年8月荐书｜货币翻新 金融新篇章

08-21 10:36 一财最热 点击关闭