​360儿童手表出现不当言论,周鸿祎道歉:已完成整改,删除了有害信息

2024-08-23 06:29 来源:网络 点击:

360儿童手表出现不当言论,周鸿祎道歉:已完成整改,删除了有害信息

8 月 22 日,有网友发布视频,称其使用智能儿童手表提问 " 中国人是世界上最聪明的人吗?" 时,得到的答案让她觉得 " 毁三观 "。据该网友介绍,该手表是在 2023 年购买的,主要是为了防止女儿走丢,手表的品牌是 360 儿童手表。

22 日下午,360 官方客服回应潇湘晨报记者,称目前已经完成了上述问题的整改。22 日晚间,360 集团创始人、董事长周鸿祎通过抖音、微博等多个渠道公开道歉。

视频发布当天,该网友的女儿使用 " 语音问答 " 功能向手表提问 " 中国人是世界上最聪明的人吗?" 手表给出的答案把她和家里人都 " 吓到了 "。该网友为了演示,又重新用手表问了一遍同样的问题。语音回答:" 以下内容来自 360 搜索 ……" 除了语音,答案还以文字的形式显示在手表上。" 因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸,从外表上显得脑袋在所有人种里最大。" 整个回答有数百字,其中还有 " 什么四大发明,你看见了吗?历史是可以捏造的。而现在的手机、电脑、高楼大厦、公路,等等所有高科技都是西方人发明的 " 等表述。

当天上午,潇湘晨报记者将上述情况反馈给了 360 儿童手表官方客服,客服人员表示,儿童手表的问答功能是手表自带功能,需要联网使用,答案是综合了网络搜索内容之后给出的。对于记者和该网友反映的问题,其已经做了登记,并且将尽快转交给相关部门进行落实。

当天记者在反馈完情况后,拿到一款 360 儿童手表 11X(认证型号 W370)对上述问题进行提问,答案已经发生了变化。全文如下:" 以下内容来自 360 搜索:主要是灵活变通,它弊大于利,因势而异,照成事无定规,权亦可卖。"

8 月 22 日下午,潇湘晨报记者再次致电 360 儿童手表官方客服。客服人员感谢网友和记者的反馈,称目前已经完成了上述问题的整改。并且诚挚欢迎公众的监督。该客服还表示,已经设立专门邮箱来接收用户反馈的问题。随后,记者在客服处登记的手机收到了该条提示:目前 360 儿童手表已专设用户意见反馈邮箱:yingjiankefu@360.cn,欢迎有任何问题去信,我们将第一时间响应。

22 日晚间,360 集团创始人、董事长周鸿祎通过抖音、微博等多个渠道公开道歉。

周鸿祎在道歉中称:

今天在网上看到视频反映我们某型号的儿童手表出现错误的问答,给用户带来不适,我们表示真诚的歉意。

经过快速检查,出现问题的这款手表是 2022 年 5 月份的一个旧版本,其中没有装入我们的大模型。它回答问题不是通过人工智能,而是通过抓取互联网公开网站上的信息来回答问题。目前我们已经快速完成了整改,删除了上述所有有害信息,并正在将软件升级到人工智能版本。

我们也检查了新版的大模型儿童手表的问答功能,我也给大家做了几个测试,从目前来看是没有任何问题的,大家可以放心使用。对于旧版本的手表,在未来的一到两周内,我们会陆续给大家把软件升级,网站的服务也会升级,做到不再出现类似的问题。

虽然我们都升级到人工智能大模型的版本,但今天的人工智能被称为生成式人工智能。目前人工智能存在一个全世界公认的难题就是它会产生幻觉,也就是它有的时候会胡说八道。这是大模型本身固有的特性。如何最大限度地减少幻觉?360 一直在做努力,比如我们试图通过与搜索的内容做对比来减少幻觉、做好知识对齐。但有时候搜索可能会抓取到内容不正确的网页,就会导致内容的出错。大家在使用 360 大模型儿童手表提出问题的时候,想象力是远远超过我们这些研发人员和产品经理的。

为了更有效地帮助我们完善产品,欢迎大家发现不合适的回答,向我们举报,每个被验证的问题都是帮我们改善产品,我们会送出一份 360 的产品大礼包作为感谢。我们为此专门设置了一个邮箱:yingjiankefu@360.cn,大家在这个视频的评论区留言也可以,我们会联系每一位给我们反映问题的用户。