揭秘Google Brain:专注纠正算法错误/解决AI偏见

  • 时间:
  • 浏览:3

腾讯科技讯1 月 29 日消息,据外媒报道,用谷歌首席执行官桑达尔·皮查伊说说说,对于负责推进“比电或火更具有深刻意义”的人工智能(AI)技术的人来说,杰夫·迪恩(Jeff Dean)是个非常冷静的人。

作为这家科技巨头的AI主管,迪恩负责领导的部门对谷歌的未来至关重要。即使在今年达沃斯世界经济论坛的狂热气氛中,迪恩仍在禅修。显然,原本艰巨的任务并未令他感到不安。

图片来源图虫:已授站长之家使用

迪恩在谷歌成立之初的使命,就曾帮助应对“几乎可以 肯定”来自外太空的威胁。

太空射线

早在世纪之交,谷歌的搜索引擎就之前 开始 出显故障,而其守护进程员却对一点 愿因感到迷惑不解。正是迪恩及其密友桑杰·格玛瓦特(Sanjay Ghemawat)诊断出了外太空大问题。

迪恩解释说,谷歌搜索服务在廉价的硬件上运行,“它们就像是用打包电线和口香糖捆绑构成的”,而且它容易受到“极低概率事件”的影响。

迪恩称:“来自外太空的特定射线会进入地球,并击中存设备的存储单元上,将 0 或 1 翻转为 1 或0。而且他们正在处理血块数据,一点 情形尤其糟糕,而且老是之间,数据中一点随机位将被翻转和损坏。”

他补充说:“目前大多数机器都在 相似大问题的硬件保护妙招。而且,谷歌早期使用的机器并没法真正做到一点 点。”

然而,近年来,谷歌的尖端机器吸引了迪恩的删剪关注,而该公司大胆命名的“Brain Team”也是没法。一点 团队的使命是“使机器智能化,改善亲戚亲戚.我歌词 的生活”。即使目前谷歌的人工智能应用更显平淡无奇,一点 使命也令人其实雄心勃勃。

机器学习使谷歌用户可以 通过搜索照片中出显的对象(相似,通过键入Cake或Cat)来检索照片,而且机器学习也是语音识别工具的开发基础,语音识别工具可以 将多种语言的音频转换为文本。

谷歌的翻译工具是其AI团队的原本成功之处,但也提供了有有一个多早期的例子,说明算法可以 “向现实世界学习,而都在 向亲戚亲戚.倘若的世界学习”。

与偏见作斗争

迪恩解释说,当有有一个多算法被输入血块文本时,它将学精怎么识别通常组合起来的单词。

迪恩称:“举例来说,你而且知道原本的大问题,即算法老是将医生更多地与‘他’而都在 ‘她’联系在一同,而将护士更多地与‘她’而都在 ‘他’联系起来。但你也会知道,外科医生与手术刀有关,木匠与锤子有关。而且,那些算法的优点在于,它们可以 学习那些类型的模式和相关性。”

迪恩表示,这项任务是找出你想让算法找出那些偏见,而他的团队和AI领域的亲戚亲戚.我歌词 都在 努力探索这头上的科学。迪恩称:“很难说亲戚亲戚.我歌词 是是是否是是能找到完美的无偏见算法。”

公司努力处理那些大问题的有有一个多令人惊讶的例子是职业社交网站LinkedIn。当其5. 62 亿用户登录到我该人 的账户上时,亲戚亲戚.我歌词 会得到关于工作和益系人的独特建议,而那些都在 由AI提供支持的。更重要的是,使用LinkedIn的招聘人员会收到一份经过机器学习筛选的理想候选人名单。

但LinkedIn联合创始人艾伦·布鲁(Allen Blue)更快就发现了一点 过程中处于的有有一个多大问题,即男人在入围名单上的排名还过高 高。布鲁说:“亲戚亲戚.我歌词 所能做的就是说:‘好吧,亲戚亲戚.我歌词 会纠正一点 算法。原本它就能以与实际匹配搜索标准的同等比例筛选男性和男人候选人,并对亲戚亲戚.我歌词 进行排序,以确保那些男人不用意外地被漏掉。”

更多样性

但布鲁承认,处理一点 大问题就是AI冰山的一角。他解释说:“亲戚亲戚.我歌词 之前 达到原本的水平,即理解了怎么以最好的意图构建有相似机器学习算法,但仍然无意中在结果中引入了偏见。”

布鲁最喜欢引用的例子是面部识别技术。他称:“第有有一个多版本面部识别应用的训练对象是名人照片,那些名人大多是白人和男性,这愿因白人男性的面部识别准确率可达97%,而非洲男人的准确率仅为3%。”他认为,而且不增加AI算法构建者的多样性,就不而且有任何处理妙招。

布鲁说:“当亲戚亲戚.我歌词 观察LinkedIn上真正拥有AI技能的人时,只能22%的人是男人。” 更糟糕的是,他补充说:“男人的角色倾向于更注重研究,或更倾向于教学,而男性的角色更倾向于领导。”

布鲁承认:“每我该人 都在 偏见,但而且男人没哟一点 方面提供帮助,亲戚亲戚.让人只能删剪理解亲戚亲戚.我歌词 是怎么设计AI的。”

尽管有那些警告,但当谈到AI的潜在积极作用时,布鲁和迪恩都显得热情洋溢。在谈到招聘过程时,布鲁认为,计算机甚至可以 教会亲戚亲戚.我歌词 怎么消除人类的缺点。

洪水和地震

布鲁称:“当你走进去与某人面对面交谈时,让人得到很好的情绪解读,或从亲戚亲戚.我歌词 身上获得能量亦或是一点那些,这是建立在你的特质基础之上的,而且对于怎么可以 成为好员工的观点是处于偏见的。AI可以 帮助你从有相似消除偏见的观点中分离出那种良好的感觉,这就是我所说的纯粹的机器与人类媒体媒体合作的意思。”

对于迪恩来说,谷歌的AI团队在世界各地的人道主义大问题上所做的工作是亲戚亲戚.我歌词 最自豪的成就,比如可以 预测洪水和地震余震的系统。

一阵一阵关注医疗保健和益物科学帮助催生了有相似工具,它可以 从视网膜图像中诊断有相似叫做糖尿病视网膜病变的疾病,而不还要眼科医生介入。

迪恩在世界经济论坛上对AI的那些用途始终称赞有加。在这次论坛上,诸多会议都集中讨论了数据隐私和对技术的监管大问题。

就谷歌而言,迪恩相信,该公司的结构原则将促进防范AI的潜在滥用大问题,并透露,他的团队“肯定决定不发表声明亲戚亲戚.我歌词 认为而且会产生负面影响的一点成果”。

但迪恩说,处理滥用机器学习的妙招是吸引大概 的人类来该领域工作。他表示:“亲戚亲戚.我歌词 还要更多的人研究相似领域,更多的人对那些领域感到兴奋,而且这就是亲戚亲戚.我歌词 取得进步和处理社会一点大问题的妙招。”(腾讯科技审校/金鹿)