能定餐馆的duplex没说自己是ai这会

　　能定餐馆的 duplex 没说自己是 ai，这会是人工智能的道德困境吗

　　 07: 8来源://

　　原标题：能定餐馆的 duplex 没说自己是 ai，这会是人工智能的道德窘境吗

　　最近遭受到道德窘境的不只是基因，还有人工智能。

　　在今年夏天的 google i/o 大会上，google 向大众展示了一项名为 duplex 的 ai 新功能——代替你预约理发或餐馆。

　　这项功能之所以这么受人关注和让人激动，最大的缘由就它接近以假乱真的让 ai 用自然语言和真实的人类交换，而人类乃至完全没有意识到对面并不是真人而是来自 google 的 ai。

　　▲ 图片来自：9to5google

　　最近，这个服务终究在 pixel 用户群组中小范围进行测试了。根据 venturebeat 的报导，目前 google 正在缓慢推送这项服务，而不是直接正式开放上线，目前只在「精选城市」中的 pixel「精选用户」中测试，凡是支持这个服务的人上辈子大概都是被选召的孩子吧。

　　此外。这个服务目前功能上也非常有限——哪怕是对比 google i/o 上演示版本。因为目前的测试中并不支持理发的预订（google i/o 则专门演示了一段预约理发的视频），只集中在餐馆预订，另外一些餐馆也由于一些不明缘由无法支持。

　　向大众开放 duplex 是一项非常好的事情，我们终究能够亲身检验这个星球上在人工智能领域的佼佼者究竟达到了何种地步。但是最近的一些测试中 google duplex 却让人们产生了一些耽忧，当然这不是说它在智能方面超出大众的估计，而是在整个对话进程中，duplex 都没有告诉对方自己是只是一个 ai 服务。

　　当 duplex 开始预约的时候只会告知对方「这个来自 google，并可能会被记录。」仅此而已，之后它就会循序渐进的开始餐馆的预约，并在处理完成以后挂断。

　　而这显然跟之前的宣传不符，the verge 表示，在 google 今年 6 月份发布到 youtbe 的宣扬片中，duplex 会清楚的表示它是一个人工智能服务，会表示这通是通过 google assistant 呼唤并为客户进行预订。

　　对为何会出现这样不同的处理，the verge 表示根据熟习初期测试的人士说，这个测试并不完全由 ai 构成，即一部分呼叫来自真实的 google 员工，而其他的部分则是来自 google 的 ai 呼叫。所以 google 没有泄漏出这个人工智能助理的信息。

　　显然，人和 ai 的界限在这里被模糊了，由于 duplex 听起来已和真人非常接近了，它会有停顿，会有各种各样的语调和语气词。但对大众来说，这个测试会被理解为完全使用 ai 来进行，而在人和 ai 的对话中，人们非常需要 ai 表明自己的身份。

　　venturebeat 表示 google 需要找到一个完善的平衡：

　　准确而智能，透明而诚实

　　另外，google 也在自己的博客向我们展现了 duplex 究竟是如何工作的。

　　google 表示这是一项通过来履行「真实世界」任务的新技术，而其中的核心就是面对自然语言的挑战：自然语言难以理解，自然行动难以建模，需要快速处理和使用恰当的语调进行自然语言发声，都是其中的难点所在。

　　而 google 也明确表示了透明度在其中是一项重要的部分，google 需要明确的告知意图而对方理解前后文，未来接个月 google 还会在这方面继续进行调剂。

　　而让 google duplex 的对话听起来很自然则要归功于 递归神经络（rnn），为了应对这些挑战采用了 tensorflow extended（tfx）进行构建。而为了提高精度，goole 还通过匿名的会话数据在语料库上训练 duplex 的地柜神经络。他们还为每一个场景专门对理解模型进行了训练。最后通过理解、互动和时间完成duplex 在「口语」上的进步。

　　最后 google 表示，google duplex 朝着人类像和他人一样与技术互动迈出了一步，自然语言与技术之间的交换在特定场景中成为现实。 google 希望这些技术进步最终将有助于改善人们与计算机平常交互的体验。

　　▲ 图片来自：medium

　　但就像最开头的说的，与真人的界限的模糊更需要 ai 来先验明正身，而不是装作和真人无异对人类来说是一件很重要的事情，或者说这件事需要这样的一个仪式感。随着技术的演化前进，ai 可能很快就在大部分语音接听领域达到接近人类的水平，届时关于人工智能的伦理问题将会更加直白的摆到桌上。

　　从结果上讲，人类并不愿意和与真人几近无异的 ai 进行对话，这会给他们一种不安全感，类似的事情其实也产生在外貌上，著名的恐怖谷理论看来不仅仅可以用在外貌上，在声音上其实也有着类似的状态。

　　而牛津互联学院的数字道德实验室博士 thomas king 就直接表示 google 的这项测试其实就是个骗局，假定人类和 ai 已经没法区分，那对一个接线员它会认为自己一直在和一群机器对话（所以接线员也换成 ai 不就好了？），那他还能保持和之前一样的沟通方式吗？没有礼貌和更粗鲁是否是也没有关系？哪怕接到了一个来自真人的，但这类想法也许已经在他脑海中挥之不去了。

　　▲ 科幻电影《her》

　　对于人类来讲，如何思考人与科技的关系已是一个可以说已是一个日经的话题，我们也不缺乏相关的科幻电影对其的想象，比如施瓦辛格主演的《第六日》就讨论了人与克隆人的伦理冲突问题，而 2004 年《机械公敌》把阿西莫夫3定律带到了大众视野，电影《her》则进一步探讨了人类和人工智能的情感的问题。

　　但等到 duplex 把人类与人工智能的关系在现实中摆出来时，人类可能才发现自己有多么敏感和自我保护。对 ai 没有标明身份这件事上，我们已衍生出了很多问题和想法，在人与人工智能产生联系的过程中，双方的地位、以及更多的事情都会变得难以认定。

　　▲ 图片来自：wired

　　某些时候，如果我们疏忽一些 bug 问题，其实计算机是比人类更完善的一种形态，他们能确实的反应出你的行为和如实给出你要的结果，但随着人工智能摹拟真人越来越像，我们可能反而更加容易和 ai 产生矛盾和磨擦，导致与我们预期的结果不符或受到其他损失。

　　由于，人类就是如此不完善的生物啊。