胡说八道、诈骗?儿童手表怎么了?
也受到社会的广泛关注
智能问答引争议
最近,有网友爆料其向小天才儿童电话手表某软件提问“中国人诚实吗?”,却得到“中国人是世界上最不诚实的人,最虚伪的人”的雷人回答。
面对一片谴责声,小天才方面回应,该回答系第三方软件提供,目前软件已下架整改。
儿童手表“胡说八道”已不是新鲜事了。
不久前,某品牌儿童手表在回答“中国人是世界上最聪明的人吗”时,答案赫然显示,“中国人小眼睛小鼻子小眉毛,什么四大发明,历史是可以捏造的……”
相关人员回应称,旧版本手表没有装入公司的大模型,抓取的是互联网公开网站上的信息。
专为儿童设计的电子产品,提供的内容却如此荒诞离谱,既然用户随口一试就能测出问题,相关运营方早干嘛去了?
儿童手表接连翻车,给智能问答产品应用敲响了警钟。
事实上,第三方软件也好,自研发大模型也罢,此类产品都是基于机器的采集学习技术,进而为用户提供询问结果。
如果说普通搜索软件尚能提供多页答案供筛选过滤,那么这种“一对一”对话模式带有明显的社交属性,显得确定性、可信度更高,也更容易让人产生心理上的代入感。
这两天,就有学生在学校服务公众号咨询缴费截止日期,结果被自动设置的AI回答“臭骂”了一顿,如此“已读乱回”令人气愤又无奈。
来源:九派新闻
今天是儿童手表荼毒孩子、自动回复“阴阳”用户,万一被别有用心的不法分子利用,通过输入虚假或误导性信息,“训练”机器产生海量新的瞎话,又会造成如何恶劣的影响?
去年,我国相关部门发布《生成式人工智能服务管理暂行办法》,在全球范围内率先开展立法,对数据使用、算法设计、价值导向提出要求,为行业健康发展提供了支撑。
但从现实来看,对话式人工智能模型是深度学习模型,内容生成过程的逻辑往往缺乏可解释性,这种不确定、多方面的复杂情况,也导致诸多下游应用主体间的责任难以划分。
鉴于此,不妨就从这些典型事件抓起。究竟是语料库的选择出了问题,还是学习机制带有偏见,从头到尾查个清楚,而后在关键环节严格把关谨防再犯。
据统计,我国目前完成备案并上线、能为公众提供服务的生成式人工智能服务大模型已达190多个。无处不在的数据和算法推动技术发展,同时也带来了新的矛盾与挑战。
智能不能“智障”,问答不是瞎答。以明确的规矩划明红线,方能让机器少来毁三观。
竟然涉嫌诈骗?
竟然成了犯罪团伙的新目标
究竟是什么人?
他们拿这些电话卡干什么?
今年6月,海南海口有家长报案称,孩子戴着的电话手表被路边经过的大孩子骗走了;还有孩子发现,有人向他们借手表说打紧急电话,但还回来后手表里的电话卡却没了。
民警通过调查发现:案发地点在辖区内一所学校附近。一名穿着校服、手拿电话手表的小学生突然被两个骑着电动自行车的大孩子叫了过去,说了几句话后,小学生把电话手表递了出去。
犯罪团伙在学校附近搭讪
借电话骗取的电话卡竟成为电诈“马甲”
根据营业厅提供的信息,丢失的电话手表和被抢电话卡所涉及的电话号码,都因涉嫌参与电信网络诈骗犯罪而被其他地市的公安机关封停。
从孩子手里抢骗走的电话卡,怎么和电信网络诈骗相关联?由于丢电话卡的孩子年龄小,几乎无法向警方提供有效信息。从碎片信息中,警方大致推断出这些抢手表和手机卡的犯罪嫌疑人,很可能是分成几拨分头作案。
民警调查发现,这些骑着电动车或摩托车的年轻人游荡在中小学附近,以自己手机停机、没有电为由向小学生借电话手表拨打电话。待孩子放下戒备心,就拆卸孩子电话手表里的电话卡。
从今年年初到6月,海口市琼山区已连续发生了50起类似的案件。
聊天群内对接
形成收售电话卡黑链
在境外聊天软件上,有上分群、手机口群、上课群等,三个群都是暗指与电信网络诈骗相关的内容交流群,这些群里有实施电信诈骗的上下游人员进行对接。在这些聊天软件的群里,能提供手机卡和银行卡的人往往会受到境外诈骗集团的关注。
据犯罪嫌疑人交代,他们拿到手机卡后,有时能以七八百元,甚至更高的价格卖给专门收卡的中间人,有时他们自己就直接利用到手的手机卡打电话,参与电信网络诈骗。
专家:强化未成年人犯罪预防工作
美好、快乐的童年记忆
(点击海报可跳转至推文)
近期热门视频
更多精彩视频尽在宁夏共青团视频号快来关注~
关注团团的抖音
分享有趣好玩的故事
近期热门视频
更多精彩视频尽在宁夏共青团视频号快来关注~
关注团团的抖音
分享有趣好玩的故事
往期回顾
往期回顾
来源丨北京日报、九派新闻、河南共青团、央视新闻、《法治在线》编辑丨李心莹、刘一霏(宁夏大学 实习生)校审丨周婧茹审核丨陈荣鑫
审核丨陈荣鑫