快捷搜索:

您的位置:环球彩票登陆 > 环球彩票登陆 > 灵犬UI改版,让反低俗内容检测更加精确

灵犬UI改版,让反低俗内容检测更加精确

发布时间:2019-11-01 14:31编辑:环球彩票登陆浏览(146)

    据今日头条相关负责人表示,新版“灵犬”在反低俗、反暴力谩骂方面,整体识别准确率已达到85%,反标题党方面识别准确率达到90%。

    目前,“灵犬”在反色情低俗、反暴力谩骂板块,整体识别准确率约为85%,反标题党模块识别准确率约为90%。

    截至2019年6月,灵犬反低俗助手的使用人次已经超过了300万。

    2月20日,今日头条方面宣布了“灵犬”全面升级的消息。升级后的“灵犬”,除了反低俗,还增加了反暴力谩骂和反标题党功能,检测范围基本覆盖了主要低俗低质内容。

    针对许多用户在使用“灵犬”过程中面临的一些列问题,比如“输入文字为什么必须超过10个字”、“灵犬与头条的审核机制有何不同”、“为什么有时候检索内容只有一字之差,健康概率却有很大区别”等等,针对这些问题在“点击了解灵犬”环节,都有相应的答案。

    2018年3月28日,今日头条首次上线“灵犬”,支持检测文字和文章链接。2018年5月16日,“灵犬”增加反色情短文本模型和反谩骂模型,将准确率从73%提升至82%。2019年2月20日,“灵犬2.0”正式上线,除了反色情低俗模型,加入反暴力谩骂和反标题党模型,覆盖了主要的低俗低质内容类型,整体识别准确率接近85%

    在反暴力谩骂模块,同样要“挖坑”,选用四大名著中比较暴力描写较多的《水浒传》。其中武松斗杀西门庆章节,尽管画面描写比较血腥,但内容质量却获得很高评分。

    2月20日,今日头条“灵犬反低俗助手”全面升级。新版“灵犬”增添了反暴力谩骂、打击标题党功能。

    图片 1

    《西游记》是四大名著中脑洞最大的一部。最适合用来做反标题党这个模块的“挖坑”。分别输入“尿泡虽大无斤两,秤砣虽小压千斤”,“八百流沙界,三千弱水深,鹅毛飘不起,芦花定底沉”这两句使用了夸张手法的句子,当作标题去鉴定,同样也都得到了很好的成绩。

    更新之后,“灵犬”的检测范围,基本覆盖了主要的低俗低质内容类型。

    图片 2

    图片 3

    比如在灵犬反标题党模块输入“惊呆了!大庭广众之下竟然有人做这种事”,“灵犬”会智能地给出检测结果:虽然没有命中反标题党模型,但是涉嫌色情低俗。

    7月31日消息,近日今日头条宣布推出新版“灵犬反低俗助手”,添加了对图片和文本识别。这一代“灵犬”训练数据集总量是1.2个T,相当于20倍百度百科或100倍维基百科的数据总量,包含920万个样本,准确率提升至91%。

    “灵犬”的准确率真的有这么高吗?

    比如在反色情低俗模块输入相应文字“王某某和李某某搞破鞋”,这样的文字就命中“灵犬”反色情低俗模型,此类内容的健康概率只有12%,就不会获得算法推荐。

    在文本识别领域,新版“灵犬”同时应用了“Bert”和半监督技术,训练数据集包含920万个样本,准确率提升至91%。在图片识别领域,“灵犬”采用深度学习作为解决方案,在数据、模型、计算力等方面均做了针对性优化。

    图片 4

    全新的UI设计让用户对内容进行检测时,更加垂直精确。即使用户分不清所要检测的内容的属性,“灵犬”也会帮用户进行自动分类。

    据介绍,新版“灵犬”重点拓展了反低俗识别类型和模型能力,现已覆盖图片识别(反色情低俗、反血腥暴力)和文本识别(反色情低俗、反暴力谩骂、反标题党)。后续还将支持语音识别和视频识别。

    为此我们进行一番测试,现代白话文可能没什么难度,我们决定用四大名著来试一下。

    图片 5

    首先是在反低俗模块输入了一段《红楼梦》中的文字,特地选了一段带有“床”、“歌舞”、“鸳鸯”、“红灯帐底”、“烟花巷”等比较敏感的词汇的句子。。

    图片 6

    IT频道> 业界 3C, ]

    比如在反标题党模块,输入一段新闻“马云厉害了,再次被确认收购千亿营收国际巨头?”的链接,“灵犬”会对标题进行评估,健康概率达到74%,可以获得算法推荐。

    图片 7

    除了文字,“灵犬”同样可以对链接内容做出检测,操作层面与文字内容的检测同样简便。

    至于《三国演义》,相比其他三部没有明显的“坑”点,各项结果都良好,就不再一一展示。

    图片 8

    尽管故意挖的“坑”较多,看起来“灵犬”还是能够欣赏《红楼梦》的。给出鉴定结果,75%健康率,可以获得算法推荐。

    图片 9

    综上所述,可见“灵犬”的算法是比较高明的,甚至给人感觉它已经具备了很高水平的文学素养。[ 位置: 首页>

    如果在反暴力谩骂模块输入“XXX是卖国贼,卖国求荣”等过激内容或者存疑问题时,“灵犬”会将该样本交由人工审核。

    图片 10

    图片 11

    用户点击不同的子模块进行内容检测,对于不同类型的内容,“灵犬”会给出不同的检测结果及解决方案

    本文由环球彩票登陆发布于环球彩票登陆,转载请注明出处:灵犬UI改版,让反低俗内容检测更加精确

    关键词: 低俗 内容 精确 名著