《我看见的世界》既是李飞飞的个东说念主史，亦然一部云蒸霞蔚、跌宕升沉的东说念主工智能发展史。在这本书里，李飞飞回忆了我方从底层外侨成长到顶尖科学家的经历。她渡过了疲倦贫乏的青少年时期，但对科学的怜爱约束激励着她不竭追寻东说念主生的“北极星”，并最终走进科学的殿堂。

李飞飞曾经创建当代东说念主工智能的关节催化剂ImageNet，曾经担任谷歌云东说念主工智能及机器学习首席科学家，但她长久秉持着身为学者的审慎态度，对于东说念主工智能的发展标的提倡我方的判断和警悟。2015年，许多东说念主工智能的数据库短少各种性，导致了一系列预感以外的放胆，例如，将黑东说念主青少年诞妄地象征为“大猩猩”。她知晓到，这是因为科技行业的代表性不及，导致算法无意中带有偏见，在处理非白东说念主、非男性用户信息时阐发欠安。她和同事通盘鼓动了AI4ALL样式，致力于于营救女性、有色东说念主种和经济辛苦的学生参与到东说念主工智能界限，以对抗偏见的产生。

李飞飞知晓到，东说念主工智能不仅是一种科学，也不仅是“阵势”“颠覆”“谜题”“特权”或“天然之力”，东说念主工智能更是一种管事，是咱们扫数东说念主共同承担的管事。她提倡，医疗等界限的标准、前例和伦理基础是经由几个世纪以致几千年的期间成就起来的，比较之下，东说念主工智能还处于发展的早期阶段，其自己简直莫得明确的伦理准则。这个界限的自我知晓之路才刚刚起步。因此，短少伦理框架的不单是是谷歌，也不单是是年青工程师，而是咱们扫数东说念主。

经出书社授权，第一财经节选了书中部分篇章，以飨读者。

无东说念主可控（No One's to Control）

从ImageNet时期开动，范围的垂危性就还是可想而知，但频年来，“越大越好”的不雅点简直被赋予了宗教般的真义。媒体上充斥着城市街区大小的服务器智商的图片，对于“大数据”的商议永无停止，约束强化着这么的不雅点：范围是神奇催化剂，是机器中的幽魂，不错将东说念主工智能的旧时期与令东说念主窒息的梦乡将来别离开来。虽然关系分析可能会有些简化，但本色上并莫得错。莫得东说念主能否定，神经会聚如确凿这个资源丰富的时期本旨发展：惊东说念主的数据量、大范围分层架构和大量互联的硅片如实带来了历史性变化。

这对科学意味着什么呢？要是咱们的管事诀要不错简化为赤裸裸的量化，简化为蛮力制胜，那么勉力念念考和改进又有什么真义呢？要是一些想法在层数太少、进修样本太少或GPU太少的情况下似乎会失败，而在数目加多到弥散多的时候俄顷又不错高效运转，那么对于算法的里面运作机制，咱们又能得到什么老师呢？咱们发现我方越来越多地从经历角度不雅察东说念主工智能，就好像它是我方出现的一样，仿佛东说念主工智能是需要先识别、后领路的东西，而不是字据第一旨趣遐想产生的技巧。咱们与东说念主工智能之间的关系正在发生升沉，对我这么的科学家而言，这么的远景令东说念主深念念。在谷歌云的新职位上，我不错俯瞰越来越依赖于各个层面技巧的世界，但咱们不可坐而论说念、齰舌于一切的神奇。这种奢靡咱们职守不起。新一代东说念主工智能所能作念的一切，不管是好是坏，不管是在预期之内，如故在预感以外，王人因其遐想自己短少透明度而变得复杂。神经会聚的结构自己充满了深奥色调，它是由轻飘的、权重高明的决议单位构成的盛大聚拢体。这些决议单位并立时看毫无真义，但以最大的范围组织起来时，却强劲得令东说念主齰舌，简直无法为东说念主类所领路。咱们不错从表面的、详细的真义上批驳神经会聚：它们能作念什么，它们达到缱绻需要什么样的数据，它们进修后的性能特征大约在哪个范围；但从一次调用到下一次调用，它们在里面到底作念了什么，却是完全不透明的。

由此带来的后果额外令东说念主担忧，这等于一种被称为“对抗膺惩”的新式威逼。在对抗膺惩中，输入内容的惟一方针是蛊卦机器学习算法，以达到反直观以致龙套性的方针。例如来说，一张像片看上去是描述了某种明确的事物（比如蓝天下的长颈鹿），但不错通过单个像素神色的微弱变动进行修改。尽管这种像素神色的变化是东说念主类肉眼无法察觉的，却会在神经会聚合引发一连串的故障。要是对抗膺惩遐想适当，虽然原始图像看起来莫得任何变化，但算法会把“长颈鹿”这么的正确分类变成“书架”或“怀表”等诞妄分类。先进技巧无法鉴识野活泼物像片的场景可能会让东说念主以为可笑，但要是对抗膺惩的方针是愚弄自动驾驶汽车，导致汽车对泊车标记，以致东说念主行横说念上的儿童进行诞妄分类，就实足不可用可笑来形容了。

天然，进步工程技巧水平可能会有所匡助。“可解释的东说念主工智能”，或简称为“可解释性”，正在成为新的磋磨标的，令东说念主备受饱读吹。可解释的东说念主工智能试图将神经会聚近乎神奇的计较进行简化，升沉成东说念主类不错仔细磋磨和领路的体式。但关系磋磨尚处于起步阶段，无法保证无意达到其营救者所期许的高度。与此同期，这项技巧所要阐明的模子却还是开动谢世界各地大量出现。

即使是完全可解释的东说念主工智能也只是是第一步。要是在算法遐想完成后，再加入安全性和透明度等探究成分，不管遐想得何等精妙，王人不及以自傲条件。下一代东说念主工智能必须从开发之初就采取与现时完全不同的理念。以心扉为开头天然很好，但咱们要靠近的是纷纭复杂而又不起眼的挑战，要得回真确的进展，就必须有敬畏之心。而硅谷似乎短少这种心态。

学术界早就知晓到东说念主工智能可能会带来负面冲击，比如短少透明度、容易受到偏见和对抗性影响等等。然则，由于磋磨范围有限，风险一直只存在于表面层面。我的实验室最有践诺影响力的管事是环境智能磋磨。由于临床公法的制约，咱们对管事样子保持严慎和克制，因此有弥散的契机来应答关系隐患。但现时，市值接近万亿好意思元的公司还是掌持了主导权，潜在风险的发展挨次也急剧加速。不管是否准备就绪，这些问题王人需要以营业速率加以处分。

每个问题单独来看王人令东说念主担忧，但它们共同指向了一个将来，其特质是监督减少、不对等加重，要是处理不当，以致可能导致一衣带水的数字独裁主义问题。走在全球最大公司之一的走廊里，我不禁堕入千里念念，问题真是很莫名，尤其是探究到同事们的至心和良苦用心。这些王人是轨制性问题，而不是个东说念主问题。现时还莫得出现胡子拉碴的典型无赖，咱们还莫得遇到真确的践诺问题，此时提倡这些挑战，只会让东说念主愈加困惑。我追想起与阿尼同事的景象，想起那时要在几家病院部署手工制作的袖珍原型征战是何等辛苦。在高度严慎的医疗界限，改进是冉冉张开的，虽然有时令东说念主衰颓，但总体上也让东说念主感到快慰。我想知说念医疗界限的作念法是否值得芜俚效仿。

硅谷的吹法螺格调向来为外界所诟病。在东说念主工智能时期，尽管咱们对潜在风险的通晓约束加深，企业的过甚其实也高潮到了新的高度。首席推论官们谢世界各地的舞台上发表主题演讲，有些内容知秋一叶，有些则稚子不胜，还有一些是彻首彻尾的侮辱。企业高管们承诺将在不久后推出自动驾驶汽车，遐想出文静直快的肿瘤检测算法，已毕工场的端到端自动化。至于被先进技巧取代了管事的东说念主（出租车司机、资料卡车司机、安装线工东说念主以致发射科大夫）的走时，营业界限的格调似乎介于半心半意的“再培训”和简直不加防碍的漠不关怀之间。

不管首席推论官和恬逸为将来学家的东说念主的言论怎样透彻脱离公众，技巧的日益普及王人会进一步加重东说念主们对东说念主工智能的畏惧。在这个时期，里程碑接二连三地出现，最可怕的景象正在靠近。在东说念主工智能界限的历史上，第一次出现了流血事件。

在亚利桑那州坦佩市，优步先进技巧集团正在测试一辆自动驾驶原型汽车。伊莱恩·赫茨伯格（Elaine Herzberg）推着自行车过马路时，被这辆车撞倒身一火。两年多前，优步筹谋了卡内基梅隆大学机器东说念主系团队去职记，而现时，优步的自动驾驶样式成了公众嘲讽的对象。要是说东说念主工智能如今频频遭受偏见让我和同事们感到酸心，那么咱们现时的感受则无法用谈话来形容。优步的品牌还是斯文扫地，其原因与技巧自己关系不大。尽管咱们很容易将事故归罪于优步，但很彰着，这实足不会是临了一个近似的事故。

真是，更多老师很快就出现了。2016年，ProPublica1的一系列造访线路，有偏见的东说念主工智能被芜俚应用于处理贷款恳求，以致协助法官作念出假释决定等方面。近似的报说念还线路，在某些招聘中，求职者会先经由东说念主工智能技巧的筛选，然后才有真东说念主口试官进行口试。此类作念法经常会在无意中变成讨厌性影响，这少量并不令东说念主不测。伊莱恩·赫茨伯格的死一火理所天然地导致优步自动驾驶团队隔断，并对总共界限变成了负面影响，但上述更高明、更机构化的伤害却不可能飞速得到调动。关系问题简直是悄然无声的，影响范围更广，而监管则少之又少。期待出现相同进度的民愤是不践诺的。但好在公众知晓在约束进步，媒体也知晓到，当波及东说念主工智能的报说念时，不应疏远偏见、公谦让秘密等问题。

无法问责算法、特定东说念主群受到叛逆允待遇、一个东说念主不测死一火，这些王人是东说念主工智能界限出现的新场面。扫视场面，我得出论断：简便的标签还是不再适用。以致连“失控”等措辞王人显得委婉。东说念主工智能不是阵势，不是颠覆，不是难题，也不是特权。咱们靠近的是一种天然力量。它是如斯宏伟，如斯强劲，如斯苍黄翻覆，既能落拓引发灵感，也很容易残害一切。要让东说念主工智能值得信任，需要的远不啻营业公司缺乏的不达时宜。

东说念主工智能以致不是科技界对各人利益的惟一威逼，这使得情况变得愈加复杂。在东说念主工智能界限出现问题的时候，剑桥分析公司也爆难看闻。在2016年好意思国总统大选期间，公众普遍对装假信息示意担忧。对于酬酢媒体和新闻源过滤气泡的不良影响的报说念也在约束加多。各样事件王人有一个共同之处：世界正在渐渐知晓到，数据不仅有价值，而况具有影响力，以致不错产生前所未有的决定性影响。

到2018年，还是莫得东说念主再质疑其中的历害关系了。对脸书和Instagram等酬酢媒体应用的审查约束加强，因为它们提供的超个性化内容可能会导致青少年出现抑郁和焦灼。酬酢媒体应用东说念主工智能打磨定制化内容，以已毕最猛进度的“用户参与”，这种趋势令东说念主不安。亚马逊使用一系列监控器具（包括监控腕带）及时跟踪工东说念主的工违法果，这种仓库照顾步地受到媒体抨击。微软在试图推论其东说念主工智能面部识别技巧时，遭到了秘密权见识者和公民解放组织的品评。我我方也被卷入争议的中心。那时谷歌云与好意思国国防部坚定的一份契约（里面称Maven样式）引发了芜俚的争论。几个月后，紧张时势从公司里面膨胀到媒体，再行焚烧了群众对于技巧在军事事务中所演出脚色的历久争议。科技抵制波澜还是降临，东说念主工智能难以独善其身。

（本文节选自《我看见的世界：李飞飞自传》第十一章《无东说念主可控》。）

《我看见的世界：李飞飞自传》

[好意思] 李飞飞 著 赵灿 译

中信出书社 2024年4月

举报 著述作家

李飞飞

经济东说念主的东说念主文素养阅读 关系阅读 将座椅移开45厘米能阻断病毒的传播吗｜五一书摘

各人卫生各人无须通过旅行禁令和顽固等钝器，仅须通过对平方的时空结构进行切割手术，就能飞速地抵制新传染病，并把对全球经济的侵扰降到最低？

经济东说念主的东说念主文素养阅读 04-30 11:53 东说念主生临了一段时光，昌铜匠变成了慈爱的老翁｜五一书摘

昌铜匠还是物化好几年了，可如故约束地有东说念主拎着旧锅、坏茶壶来我摆摊的歧路口探问他的行止：“三三，蓝本阿谁换锅底的东说念主到那处去了？”

经济东说念主的东说念主文素养阅读 昨天 10:22 寰宇政协召开资料协商会

勉力提倡针对性、操作性强的对策建议，助力东说念主工智能更好赋能当代化产业体系诞生和高质地发展、更好创造和服务东说念主民好意思好糊口。

04-26 18:28 隔邻与远行：对于空间的体验、遐想与营造 | 群岛荐书

群岛BOOKS为咱们推选了一批兼具独到视角和盛大视线的文籍。

经济东说念主的东说念主文素养阅读 04-24 12:55 刀锋文籍奖在沪受奖：翰墨不错匡助咱们构建我方

刀锋文籍奖在上海举办了第三届荣誉庆典开云体育(中国)官方网站，选出了15本2023年度好书，包括《体裁之冬》《巴别塔》《我该走了吗》等，还授予了14个单项荣誉，包括年度诗东说念主，后生演义家等。

经济东说念主的东说念主文素养阅读 04-17 11:19 一财最热 点击关闭