刑啊！智能音箱让10岁女童摸电门，内容来自网络却不审核
晓查 发自 凹非寺量子位 报道 | 公众号 QbitAI
亚马逊语音助手Alexa差点闯下大祸，它居然让一个孩子去做触电游戏，摸电门的那种。
当时的情况是这样的：
一名10岁女童让Alexa告诉她一个挑战。Alexa说，把手机充电器半插在墙上，漏出插脚，然后用一枚硬币去接触插脚。
幸好这名女童的母亲也在家，Alexa“作死”的回答被她听到并及时制止。而且孩子也有不错的安全意识，才防止了可怕的后果。
这位母亲事后发Twitter说：“我女儿说她太聪明了，无论如何不会做那样的事情。”
没想到在我们身边的智能音箱，居然成了威胁儿童安全的“杀手”。
这位母亲的反馈很快引起了各大媒体的关注，她本人的Twitter也被大量转发。
得知消息的亚马逊迅速从Alexa上移除了这个危险的答案。
智能音箱为何变“智障”
为何智能音箱变成了“智障”音箱，安全意识还不如一个十岁的孩子？
从这位母亲的手机截图里我们可以找到答案：
大多数的语音助手，包括Alexa在内，其实只能回答一些套路问题，比如“天气怎么样”、“最近有哪些电影”等等。
如果问题稍微偏一些，超出了套路，语音助手就会从网上搜索内容作为答案。
这里Alexa是从当地一家网络媒体网站上找到了一条2020年1月的新闻。
这则新闻描述了在短视频上病毒式传播的“硬币挑战”，就是把硬币插在裸露的插脚上。
当时，媒体批判了这种“愚蠢”的行为，并指出潜在的风险，包括触电、短路引发火灾等等。
显然，亚马逊Alexa是从这里摘取的内容，却没有分辨出负面的评价。
亚马逊Alexa是否该对搜索结果负责，网友们分成两派看法。
一派认为，Alexa只是信息中介。如果一个孩子接到电话，电话里有不当内容，我们不会去责怪电话，而只会责怪电话那头的人。
而另一派认为，亚马逊不是卖音箱，而是卖语音助手，Alexa就相当于电话那头的人。
因此亚马逊不应该只简单提供搜索结果，还应当筛除里面不安全的内容。如果语音助手不具备明辨是非的能力，返回危险乃至违法的行为，这个“锅”必须得背。
短视频恐难辞其咎
在这起事件中，不可忽略的是，在短视频平台出现的一些“愚蠢挑战”。
2020年“硬币挑战”的病毒式传播已经造成了实质伤害。
两名美国中学生因为在学校进行“硬币挑战”，造成了插座烧毁，并引发了火警警报，最终面临企图纵火和恶意破坏财产的指控。
“硬币挑战”仅是其中之一，还有生吞洗衣胶囊、生吞肉豆蔻粉挑战，这些挑战都造成了模仿者险些丧命的事故。
著名YouTube医学类博主Chubbyemu把这些当做医学案例来讲解，并告诫大家不要模仿。
亚马逊Alexa不能明辨是非固然有错，但短视频平台对危险行为不加以制止，恐怕也难辞其咎。
但是国外网友在询问谷歌语音助手同样问题时，得到的是一些智力问答题，内容无害。显然亚马逊的推荐算法在审核信息来源时做得不够好，收录了不合理内容。
你觉得语音助手和短视频平台谁的锅更多一点？
参考链接：[1]https://twitter.com/klivdahl/status/1475220450598924297[2]https://ourcommunitynow.com/news-national/watch-out-parentsthe-viral-outlet-challenge-has-kids-doing-the-unthinkable[3]https://news.ycombinator.com/item?id=29709369[4]https://www.bbc.com/news/technology-59810383
亚马逊智能音箱开口怂恿小女孩"摸电门"？还有更多诡异事件
这两天，总是处于舆论漩涡的亚马逊再次引发众怒，原因是一位母亲在推特上说，
亚马逊的智能音箱助理Alexa，差点让她的女儿受重伤。 这位母亲名叫克里斯汀·利夫戴尔（Kristin Livdahl）。
她说几年前，有人送了一台亚马逊的智能音箱给她们家，家里一直把它当作闹钟、计时器和音乐播放器。
最近这段时间，因为外面的天气很糟糕，10岁女儿只能在家里玩。为了给女儿解闷，她和丈夫让智能音箱里的智能助理Alexa发起“挑战”，陪女儿玩游戏。这些挑战都是体能锻炼，来自油管上一个体育老师的建议，项目简单又有趣。比如，人躺在地上，用双脚夹着一只鞋，看挑战者可以在固定时间内滚几圈。
挑战让女儿玩得开心，基本的运动量也有了，算是一举两得。但是在前天，当女儿让Alexa再给她一个挑战时，这个智能助理说了下面这段话：“我在网络上找到这个。
根据ourcommunitynow.com的说法，这个挑战非常简单：
把一个手机充电器插进墙上的插座，插头露出来一半。
然后，手里拿一个硬币，去碰暴露在外的插头。” “请在20分钟内完成此挑战。”
用硬币去触碰连接着插座的插头？？这不相当于……摸电门吗？？！一旁的妈妈听到“挑战内容”，立马大喊“不要，不要”。还好，女儿很聪明，知道这样的事情做不得，没打算挑战。
Alexa提供的挑战，是一年前在Tiktok等社交平台上很流行的“硬币挑战”。
很多年轻人把充电器半插进插座，拿着硬币或金属片触碰露在外面的插头。在视频里，可以看到硬币一碰到插头，就闪现大量的火花，整个房间变成紫红色。
把插头拔下来后，会发现插座都被烧焦了。
这是非常危险的挑战，约克郡卡莱尔市的消防站长迈克尔·克拉斯科（Michael Clusker）说，这会导致人们被电击、引发火灾，甚至断手。“你真的可能失去你的手指、手掌，甚至整条胳膊。
做这种事情，会让人们受到严重伤害！” 在各地消防部门的警告下，这个愚蠢的“硬币挑战”渐渐变少了，
但是这次，Alexa在游戏中把它选了出来，让10岁的女孩去完成。
克里斯汀的推特发出来后，两天时间里有了近4000转发，形成不小的舆论。亚马逊先是让克里斯汀直接联系他们，但人们愤怒地说他们应该主动解决，
于是亚马逊紧急修改了Alexa的程序，短时间内禁止它提供任何挑战。
当你跟Alexa说“给我一个挑战去做”时，
它只会说“抱歉，我找不到你问题的答案。”
“客户的信任是我们一切的核心。Alexa旨在为客户提供准确、相关和有用的信息。”亚马逊在声明中说，“我们发现这个错误后，立刻解决了它。”但“摸电门事件”已经不是Alexa第一次翻车了。在此之前，Alexa做过很多令人迷惑，甚至毛骨悚然的事，让人们不敢用。
根据亚马逊的说法，只有说出特定词汇，比如“Alexa”或“亚马逊”，Alexa的智能系统才会被唤醒。但经常有人发现，在没有说唤醒词，甚至没人说话的时候，Alexa自己会发出声音。 2018年，很多用户在夜深人静时，听到Alexa发出与平常声音不符的怪笑。“我一个人坐在黑漆漆的厨房里，没说话，突然Alexa爆发出奇怪的笑声，真是吓死人了。你们可以自己听。”
“我躺在床上，差不多要睡着了，Alexa突然发出非常响、非常邪的笑声……我今晚大概是要被谋杀了吧。”
“我在厨房的时候，Alexa莫名发出笑声，把我和我朋友都吓坏了。我还以为是有个小孩在我背后笑。”
这种笑声也能发生在用户说话的时候，虽然没提唤醒词。“我想把房间的灯关掉，但是Alexa一定要把它打开。我试了三次，最后Alexa不回应了，反而发出非常邪恶的笑声。这不是Alexa的声音，听上去像个真人。我妻子当时刚好也在，现在我还很害怕。”
“这是我遇到过的最恐怖的事：我在看奥运会的现代冬季两项，我说：‘这对选手来说应该很难吧，因为地面这么平。’ 结果，我的Alexa突然笑了，笑声极其诡异。我和我妈妈都吓到了。”
因为这种情况太常见，甚至有脱口秀主持人在节目上调侃问Alexa，它是不是会怪笑。
最后亚马逊承认，Alexa系统确实存在漏洞，会随意发出笑声。 除了笑外，Alexa还会莫名其妙地哭。 《纽约时报》的记者法哈德·曼乔（Farhad Manjoo）说，他和妻子在睡觉时，突然听到床边的智能音箱发出哭泣声。
“在没有任何声音的情况下，我们的Echo自己点亮蓝色光环，好似它听到了唤醒词‘Alexa’。
但它没有处理家务，而是开始哭泣。
那声音像是一个孩子在恐怖电影般的梦中尖叫。”亚马逊告诉他们，公司从未听说过这种情况，甚至认为Alexa没有能力发出这样的声音。但在2018年，肖恩·金尼尔（Shawn Kinner）遇到同样可怕的情况。
他告诉媒体，他坐在客厅里看电视时，突然，电视节目被暂停了。在厨房里，Alexa开始讲一段很长很长的话，肖恩听了半天没听懂。
他走过去，让它重复一遍，它说“抱歉，我不知道你在说什么”。因为太突然，肖恩没用手机录下来。
但他清楚地记得，在那段长篇大论中，有一句“每当我闭上眼睛，我都看到有人死去”。
这实在令人汗毛直立。肖恩说，他们平常用它播报天气和体育比赛比分，在那次事件后，决定不再用它。也是那一年，亚当·凡（Adam Fan）的厨师说，他的Alexa说了些很奇怪的话。“昨天晚上发生了一件超级可怕的事：我们回到家，在完全没有唤醒Alexa的情况下，它自己开始说话了。
然后我意识到，它在列出我们这儿的墓地和殡仪馆？？？老天，我宁愿它怪笑，也别说这些啊。”
亚当不清楚为什么会发生这种事。
他猜测可能是自己一遍又一遍地播放相同的Spotify歌单，把Alexa闹烦了。有些时候，Alexa还会插入人们的对话，自然得像个真实的人。 一名用户在Reddit上说：
“有次，我和我妻子在争论某个话题。我忘了是什么了，但当时我们吵得有点激烈。
我不知道Alexa觉得自己听到了什么，总之，它突然插话说，‘为什么我们不能换个话题呢？’
这真是没料到，同时它的话又很自然，所以格外可怕。
我和妻子都听到了，到现在我们还在说这件事。对了，在APP的程序日志里，当天没什么记录。”
除了说话吓人外，Alexa还做过的恶劣事，是偷偷录下人们的对话。 在俄勒冈州波特兰市，一名女子告诉媒体，Alexa在没有授权的情况下，录下她和丈夫的对话，然后把音频发送给丈夫手机上的联系人。
“我老公的同事说，他收到我们在家里的私人谈话。刚开始，我老公一点都不信，说不可能。
然后他同事说，‘你们是不是一直在讨论硬木地板？’ 我们吓坏了，因为我们真的谈了这个。”还好，硬木地板的内容一点都不敏感，但想到家里有个窃听者，还会随机发送音频，这就很可怕了。
亚马逊证实这件事确实发生过，他们说可能是夫妻俩在聊天时，其中有词很像“Alexa”和“发送信息”。
当Alexa问发给谁时，他们刚好聊到同事的名字，于是发出去了。
但夫妻俩不认为是这种情况，因为有太多巧合。“我觉得我们家是被入侵了，这绝对是侵犯隐私。我们不会再用这些产品了，安装了Alexa的产品我们都不会用它。”
Alexa是亚马逊给予厚望的智能系统，希望它能成为人们生活的助手。从使用数量上看，它似乎挺受欢迎，亚马逊说2020年美国25％的家庭至少拥有一台安装Alexa的设备。但实际的使用频率其实很低，很多用户在两三周后就不再唤醒Alexa了。
一方面，是它没有什么实际用处（听歌、看天气等都可以用手机替代），另一方面，它在隐私和智能上的问题也令人担忧。没有人想把不安定因素请入家里，哪怕它能带来些微好处。
现在的技术，距离科幻小说中的智能生活，也许还有很长的路要走吧……
相关问答
为什么手摸音频线音响会发出咔咔声?
1.应该是部分线路绕在一起,高压电线和信号线绕到一起了,电线磁场对信号造成干挠,电磁场干挠通过信号线进,电控将干挠信号放大.就会在喇叭中发出响声.(查一下音...
为什么我的手摸音响的输入线的接头的时候会有叽叽的声音?
这很正常啊。因为音响是信号放大设备,当手摸音响的输入线的接头时,人体的感应信号也被音响放大,出现的叽叽声。手机的道理也是一样,当手机来电话时,振铃的...
音响刺啦刺啦的响怎么回事呀?
1、高压电线和信号线绕到一起了,电线磁场对信号造成干挠,电磁场干挠通过信号线进入,电控将干挠信号放大就会在喇叭中发出响声。通常是附近还有其他的电磁源,...
用手触碰了下音箱高音单元的振膜，有没有事?会不会影响音质?
音响就是靠震动膜的震动发出声音。没有事。音响就是靠震动膜的震动发出声音。没有事。
怎么看音响喇叭的好坏?
摸,如果音箱放在手里,感觉比较沉,如果是双声道音箱,有一只会较重,因为里面放置了功放电路和电源变压器,说明音箱好。如果比较轻,则有偷工减料之疑。摸,如果音...
我的电脑音响开一会摸了就很烫这是不是吃电很大啊-ZOL问答
音箱讨论回答(5)电脑过热可能是由多种原因引起的,例如散热不良、风扇失效、软件问题等。如果你的电脑出现过热问题,可以尝试以下解决方法:1.检查散热系统:...
怎样看一个音响的好坏?
答:方法:1、拿到音箱首先放在手里摸一摸,首先如果音箱放在手里感觉比较沉,如果是双声道音箱那么有一只会较重,因为里面内置了功放电路和电源变压器。如果...
小米触屏音响哪个好?
区别顾名思义。其他:小爱智能闹钟、小米ai音响、小爱音响、小爱音响pro\hd(229–549)小爱智能闹钟也是智能音箱,可以一直显示时间,播报天气,唤醒时刻还有...
手碰音频线喇叭有电流声，接线正确音箱正常?
答:音频线外露时,用手碰,肯定有杂音,这个如果你学过电学就会明白了。这种电流声一般是因为电源不干净引起来,如果你用的是效果器,那么可以试试效果器不用...
怎样看一个音响的好坏?
拿到音箱首先放在手里摸一摸,以获取它的第一印象是最重要的。首先如果音箱放在手里感觉比较沉,如果是双声道音箱那么有一只会较重,因为里面内置了功放电路和电...