昨天搞动态图黄功能差点累吐血
事情是这样婶儿的:产品经理甩来个需求,说用户上传图片总带敏感内容,让搞个动态图黄检测。我琢磨着不就整个自动打码么,抄起Python就要开干。
第一步撞上铁板
直接拿网上现成的检测库往图上一套,好家伙,晚上十点测试时候差点把我送走。用户传了张穿泳装的海边合影,哗一下整张图全糊成马赛克!同事在背后幽幽飘过:“你这打码打得比扫黄现场都狠”。赶紧翻日志看,原来破算法把蓝天白云都判定成色情内容了。
- 衣服褶皱识别成裸露皮肤
- 红色手提包识别成内衣
- 连饮料瓶反光都标高危区
重新折腾老腰
凌晨两点薅着头发改方案:不能整个图糊掉,得搞局部动态遮罩。抠细节抠得眼冒金星时,产品经理突然在群里甩了张测试图——粉红小猪佩奇叼着玫瑰!系统咔嚓给猪鼻子打了马赛克,配文“检测到敏感器官”,全部门直接笑疯。
差点让测试妹子追杀
今早以为终于搞定了,结果测试组的姑娘拍桌冲过来:“你们这破功能把我结婚照锁了!” 一查现场笑不出来了:新娘白纱低胸设计,系统在人家胸口哗弹了个15秒动态马赛克动画,还带闪烁红光那种!新郎微信语音都吼劈叉了:“我媳妇结婚照咋变扫黄现场了?!”
- 紧急加了个布料覆盖率算法
- 给婚纱、泳装、体操服建白名单
- 把打码动画换成半透明阴影
这会儿终于能喘口气。总结就三句话:永远别信算法能百分百识别人类伦理;测试案例要比产品经理更刁钻;以及——结婚照打码的程序员容易被真人PK。
还没有评论,来说两句吧...