您当前的位置 : 前沿 > 时政 > 法与理

AI鉴黄师走红 净化网络环境意义重大

  • 2017年03月20日 16:57 来源:羊城晚报
杉浦则夫

 

 

  一位“鉴黄师”的电脑上贴着便签,上面注明了甄别色情信息的标准 图/

  羊城晚报记者 龚卫锋

  前晚,“斗鱼直播”一档名叫《职男职女职播》的综艺节目与观众见面。这档节目每周会请来不同行业的专家们,为青年人解决职业困惑。本周是该系列的第二期:上一期在武汉直播,请来的嘉宾是法医;这一期在广州直播,请来的嘉宾身份更具话题性——他们是“AI鉴黄师”。

  三位嘉宾中,姜泽荣是互联网“图像识别”领域龙头企业“图普科技”的运营总监,也是一名“AI鉴黄师”。他这个“老司机”带着两位“小司机”同事在直播中谈笑风生,让观众了解到:这份网友眼中很酷的工作,其实并不轻松;而有了AI人工智能技术(Artificial Intelligence)的助力,“鉴黄”的效率已经大大提高。

  背景

  “网络监管加强,

  越来越多直播平台请鉴黄师把关”

  “快播被禁”堪称2014年的年度事件。2014年4月16日快播科技发布公告称,快播将关闭qvod服务器,停止基于快播技术的视频点播和下载,清理低俗内容与涉盗版内容。同年8月,全国“扫黄打非”办公室发布消息称,深圳快播科技有限公司网上传播淫秽色情信息案主要犯罪嫌疑人、快播公司法定代表人兼总经理王欣于8月8日被依法抓捕归案。

  “国家非常重视对淫秽色情信息的监管,我们公司成立时,就把‘鉴黄’作为公司的重要工作,第一个客户是迅雷。”姜泽荣透露,当时迅雷给了很多数据帮他们调整并优化系统,不过,迅雷如何利用系统则不在他们的控制范围内,“迅雷不存储内容,用户下载并分享的过程中触发‘过滤’机制才有可能被禁,但达到多少基数会被禁,我们不知道。”

  “AI鉴黄师”与“传统鉴黄师”通过肉眼浏览过滤色情信息不同,他们的工作是将大伙儿从互联网上搜集的图片、视频进行分类整理,分别放入系统“正常”、“性感”、“色情”三大板块中,“我们调教机器去识别色情信息,通过样本建立模型,最终趋近于达到人眼识别的效果,原理和AlphaGo一样。”图普科技客户经理周耀辉说道。

  他们公司现在有上百个客户,其中直播客户占了很大的量,这与近两年直播行业的急速发展密不可分。“部分直播平台为了赚快钱,专门请美女主播滚动直播色情内容,结果上线没多久就被禁。”图普科技市场经理邓柯解释,“对网络信息管控比较重视的企业会走得更远。”

  国家对直播平台的监管也在逐渐加强,去年4月13日,百度、新浪、搜狐等20余家直播平台共同发布《北京网络直播行业自律公约》,承诺网络直播房间必须标识水印;内容存储时间不少于15天备查;所有主播必须实名认证;对于播出涉枪、涉毒、涉暴、涉黄内容的主播,情节严重的将列入黑名单;审核人员对平台上的直播内容进行24小时实时监管。

  《互联网直播服务管理规定》2016年12月1日起在全国施行,明确禁止互联网直播服务提供者和使用者利用互联网直播服务从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益、传播淫秽色情等活动。

  于是,越来越多的直播平台开始找“AI鉴黄师”帮助,一旦有主播传播色情信息、系统判定为“色情”后,会立即通知直播平台“封号”;系统拿不准的信息,会被发送到直播平台系统中,让鉴黄师人工判定。通常,从“判定信息为色情”到“查封账号”,平均用时为30秒。

  工作

  “机器帮忙识别色情信息,实时监控直播的越轨举动”

  邓柯介绍:“视频直播的利润空间之大,普通人难以想象。比如一个以喊麦著称的主播,办一场活动号称‘日薪百万’,很多直播平台不惜花百万元甚至千万元去挖一个TOP级别的主播。”据悉,一些美女主播为了维持足够的用户粘度,常常一段直播长达两小时,甚至有人曾表演长达8小时的丝袜舞,平均每隔三分钟念一遍感谢粉丝赠送礼物的名单……当她们做出一些越轨举动时,往往能收获很多礼物,折合成人民币数额相当可观,于是一些美女主播不时打打“情色”擦边球。

  去年11月28日,女主播“雪梨枪”因传播色情视频内容被判有期徒刑4年,给这类突破底线的主播们敲响了警钟。“利用色情谋利是直播平台的大忌,以身犯险极易触犯法律。”周耀辉说。姜泽荣也强调违法行为是不能容忍的:“人有需求很正常,但释放途径要得当,利用这一点做违规、违法的事情很不好。”

  周耀辉表示,直播平台对于“AI鉴黄师”的需求量很大:“因为直播是实时性的,随时可能有人做出越轨举动,机器(系统)会把视频实时导出成一张张图片,以方便鉴别。”不过,各个平台的尺度不一样,姜泽荣说:“我们把机器给直播平台使用,但他们在调用时选择的尺度是不同的。”

  “内容管控是个世界性课题,很多人觉得海外网络管控很松,可以随意浏览色情网站,其实这是一种误解,不少国家和地区的管控相当严格,比如在实名认证的情况下,Google Play对色情是零容忍的,而日本AV有明确的分级制度。”周耀辉指出了人们的一些认识误区。

  有人责难“鉴黄师”,认为他们堵塞了人性的出口。对此姜泽荣持反对意见。他认为,在尚未“分级”的情况下,“宁可错杀一千,也不能放过一个”,而“一刀切”目前看来是必要的,必须防止色情视频对青少年身心健康的危害,但他们希望另一方面,“性教育”也该完善。他表示:“我们调查也发现,很多家长没有正确引导孩子,一味压抑也是不对的。”

  在机器和人的努力下,如今色情直播现象明显少了很多,“我们平台数据显示,现在直播过程中,出现色情内容的比例是万分之四。”邓柯说。

  感受

  “安静理性适合当鉴黄师,

  太活泼的人干不了”

  “刚开始做这份工作有些不适应,当你打开屏幕,满屏都是不堪入目的内容,我整个人都凌乱了。”姜泽荣的同事毛毛,是这次斗鱼直播节目《职男职女职播》的一位嘉宾,“美女鉴黄师”的标签让她在几位嘉宾中特别抢眼。

  姜泽荣被同事称为“老司机”,是AI鉴黄的元老。“公司刚成立时,部门只有四个人,加班非常多,一天起码有六个小时在搜集数据,简单说,就是看黄图、黄片,然后把它们扔到数据库中。”他们部门“技术宅”居多。“我们在招聘时对性格有要求,太活泼的人当不了鉴黄师,性格安静、理性的人比较适合。”姜泽荣说。

  2013年,百度、腾讯、金山等10多个互联网公司组成的“安全联盟”,公开招聘“首席淫秽色情鉴定官”,条件是年薪20万元、五险一金、每天有酸奶水果福利,工作内容就是对着电脑专职识别色情淫秽网站。很多人觉得这份工作很酷,但随后也不断传出有鉴黄师申请“工伤”索赔的新闻。姜泽荣吐槽道:“说当‘鉴黄师’是件很酷的事情的人,都不了解这个职业。凡事都有个度,什么事都耐不住天天看啊!”姜泽荣解释,“鉴黄”只是他工作的一部分,他们还在开拓其他智能识别项目。

  “我们组有6个人,全是男性,都不会跟外界说自己是‘鉴黄师’,因为对很多人来说,这不是什么很好的工作,说出去会影响别人对你的看法。但另一方面,净化网络环境的工作是有意义的。”姜泽荣通常会跟亲友说自己是做互联网技术的,如今还有种高大上的说辞——“我在做‘人工智能’。”

上篇:英国已成为全球最便宜的奢侈品市场

下篇:6个拳击动作 唤醒"假期综合症"中的你

 
分享到:

热点新闻

  • 风衣造型不会凹?时髦精张俪最新街拍教你穿!

  • 跟着电影度蜜月 重温甜蜜和浪漫

  • 你说什么?盛夏吃这些可以白成一道光!

  • 大人小孩都爱的小花童造型! 18套超可爱男女花童装!

  • 轻松塞进婚纱 准新娘的快速瘦身秘诀都在这

  • 杨幂刘诗诗林心如 为啥女明星都在巴厘岛扎推办婚礼

  • 80后成"海淘"主力军

  • 人气减肥食物排行榜 照着吃就能瘦

  • 王鸥西服搭配阔腿裤现身夏姿·陈秀场 法式优雅

  • 2017春季10种指彩灵感:告别秋冬沈闷色系

  • 棉花糖的花样吃法 让美味绽放在口中

  • 牛骏峰曝滑雪大片 为亚冬会加油助威

  • 张柏芝登《时尚先生》封面 简洁光影定格质感之美

  • 经典与时尚的完美结合! 30件女王风范羽毛婚纱!

  • 白色情人节到了 宝宝想要的礼物在这里

  • 《幻城》宋茜马天宇的仙气造型除了特效还靠它

  • 这个女人已经火到月球上啦 逆袭路堪称开挂一样

  • 儿童防晒霜 挑选讲究多

  • 范冰冰的长裙有多美 还是被“驴蹄”战鞋毁所有

  • 被种草的包包堆成山?这六款"包"治百病

  • 珠宝品味与年纪成正比?!年过半百“时髦精”会的不只是Old Fashion

  • 快被烤熟?清凉感护肤品让肌肤也爱“冰淇淋”

  • Kate Spade二季度营业额不达预期 股价暴跌16%

  • 尖叫吧!今年“砖红色”势必超越黑与白

  • 时装品牌DKNY遭LVMH抛售 G-III服装集团6.5亿美元接盘

  • 梨落唯美动人 宋茜戏外也穿得很仙

  • 于晓光浅色毛衣配休闲短裤 "卡马龙系"显活力

  • 反季穿毛衣 原来中外明星都很急性子!

  • 集齐这四个颜色包包,我就可以美一夏天!

  • 晒鞋or晒美食?色彩这么丰富确定不是来捣乱的?

  • 秦岚街拍荷叶袖搭红色绑带高跟鞋 干练又小清新

  • 完美新娘浪漫发髻灵感集!

  • 选对发色 气场全开回归职场

  • 与婴儿肥say bye 瘦脸攻略快速领走

  • 6个拳击动作 唤醒"假期综合症"中的你

  • 跟潮人cp学情侣搭配 够档次才不会被拉黑

  • 于晓光浅色毛衣配休闲短裤 "卡马龙系"显活力

  • 杨紫时装周献首秀 高马尾樱桃红别针清新灵动

  • 儿童防晒霜 挑选讲究多

  • 其实戴对了珠宝 情人节每天都过

  • 梦寐以求的杂志款婚礼布置全靠它们!

  • 赵丽颖是这么化妆的 不脱妆秘籍手残党秒会!

  • 陈钰琪珠宝大片曝光 清新自然演绎璀璨之美

  • 最浪漫的旅行 那些用粉红色染成的梦幻之地

  • 秦俊杰杨紫甜蜜公开恋情 看5岁出道的杨紫从童星蜕变成女神

  • 听说这些许愿地很灵验!

  • 香奈儿芭蕾舞鞋

  • 快被烤熟?清凉感护肤品让肌肤也爱“冰淇淋”

  • 珠宝选购好去处 夏季淘宝正当时

  • 迪丽热巴学生时期照片曝光 孙俪高圆圆范冰冰 盘点当红女星刚出道旧照

  • 阅读推荐

    ICP备案/许可证编号:津ICP备15008203