科大讯飞回应学习机出现不当内容,已引入更严格的内容审核机制,平台应如何避免此类事件的发生?

[复制链接]
hljsyz 发表于 2023-10-28 02:01:30|来自:北京 | 显示全部楼层 |阅读模式
10月24日消息,近日,有家长宣称在自家孩子的科大讯飞学习机中发现了一些诋毁伟人、扭曲历史等违背主流价值观的内容。对此,科大讯飞董事长刘庆峰回应称,已在发现后第一时间下架内容,并对负责保障内容安全的合作伙伴作出处罚处理,同时内部已经将用于大模型上的内容审核机制放在了学习机上,力求使学习机的内容审核更加严格。(界面)
全部回复5 显示全部楼层
fxo 发表于 2023-10-28 02:01:45|来自:北京 | 显示全部楼层
乐,不会是偷别人资料库的时候遭了别人的铁拳召唤术了吧?
hqw333333 发表于 2023-10-28 02:02:12|来自:北京 | 显示全部楼层
1976年清明节前夕,很多老百姓在天安门广场写满了诗词。有“欲悲闻鬼叫,我哭豺狼笑。撒泪祭雄杰,扬眉剑出鞘”,“一夜春风来,万朵白花开。欲知人民心,且看英雄碑”等。知名诗句,被称为天安门诗词摘抄。
单行道 发表于 2023-10-28 02:02:37|来自:北京 | 显示全部楼层
原来女巫不仅可以是人,还可以是机器,或者虚拟的模型,数据库。
kissinger 发表于 2023-10-28 02:03:07|来自:北京 | 显示全部楼层
当然是要坚持社会主义核心价值观了

永不死机 发表于 2023-10-28 02:03:28|来自:北京 | 显示全部楼层
排除掉别有用心的人故意投毒的可能。
我能想到的最合理的解释是爬github的时候没仔细筛仓库。


=====更新=====
另一个问题下面给出相似内容的出处。可能训练的数据集很小,加上没做价值观对齐,才出来这个问题。

快速回帖

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则