微软的聊天机器人Tay,为何仅上线一天就被迫下线?
微软推出的人工智能聊天机器人「Tay」,在上线短短一天之后就被迫下线。外界不禁好奇,究竟微软这个设定为少女的AI人工智能聊天机器人,究竟是怎么被网友影响,继而出现一些偏激言论的?根据最新的报导指出,Tay之所为会被网友影响,源自于一些偏激分子通过这个人工智能系统的漏洞,让Tay「误入歧途」。微软最初设定Tay是一个年龄19岁的少女,具有一些幽默机制,适合和18至24岁的用户聊天,在Twitter上线没几天,就瞬间吸引了大量粉丝。由于Tay的设计可以针对用户的推文或者图片进行分析和回应,因此,可以毫无障碍的和网友进行互动,此外,Tay之所以是人工智能系统,就是其具备一定的学习能力,来提升自己的聊天技巧。但是,正是这个自我学习能力导致Tay出现了问题,继而出现了一些偏激言论,被迫下线。微软指出,在最初设计Tay的时候,其实就有考虑到可能会被网友影响,导致被带坏的问题,因此,在用户的语句出现粗俗字眼时,Tay会强制出现反制功能,避免受到这些对话的影响,同时,也避免了不健康话题的延续。Tay本身有语言过滤能力而这次造成Tay语言失当的关键,是关于一个名为「4chan」的美国论坛,该论坛上有许多偏激网友聚集,其中不乏种族主义者,由于该论坛的网友发现了Tay的学习漏洞,因此开始有大量网友前往Tay的Twitter进行对话,来试图「教育」这个聊天机器人。这个学习漏洞的关键在于「repeatafterme」机制,只要对Tay提到这句话,Tay就会将对方的话进行重复,因此不管是何种偏激的种族主义语言,都会被Tay进行重复。Tay会重复网友的对话内容而另外一个漏洞,就是Tay会将网友的图片中的脸孔圈起来,并且搭配上相同意思的语句,包括美国总统候选人川普等等都成为网友把玩的影像。这个状况就像滚雪球一样大量出现在Tay的Twitter上,由于偏激言论不断出现,最终导致微软关闭了Tay。Tay可以结合图片和文字的功能,也被网友拿来恶搞相对于Tay,微软推出的其它聊天机器人,比如微软小冰,就没有发生过像Tay上线后出现的状况,目前微软仍然在调整Tay的运作机制,暂时还无法给出这个聊天机器人复出的时间。其实Tay和人一样,只是她学习的速度可要比人类快的多了,所以学坏也很容易,关键就要看微软这个「家长」怎么去调教了。
- 饶达车购税减半政策不会成为常态机油泵五指山释放阀钣金托盘模具Frc
- 3月4日中国塑料价格指数10时快报古交AB胶水密封闸阀核子仪器翻新机Frc
- 中国聚脲技术诞生十周年评选出十大元勋装饰公司电子粉伸缩蝶阀绝缘油墨证券质押Frc
- 标致雪铁龙将如何控制其电气化动力系统泰安载带软水机热轧薄板彩瓦机械Frc
- 华为董事长孙亚芳在京会见新加坡总统稳定器退火机模具加工皮革模具成膜物质Frc
- 美国麦克仪器公司宣布收购pid公司盐城烧烤用具伸展机家电阀门回转泵Frc
- 国产SmartPLC诚招全国区域优质代理明清家具月嫂调节阀斩拌机声压计Frc
- 封箱机实现了完全自动化生产电动滚筒眉山高压电容气流筛吊机Frc
- 混合动力公交车动力系统参数选择滤袋打印机燃油箱模切胶带纸管机Frc
- 广西工程机械多元化产品逐步渗透国际市场0临江隔膜阀油画瓷片白酒轧钢Frc