测试基础 上传文档图片是否违禁测试

random
random
订阅者
10532
文章
0
粉丝
测试交流4186字数 158阅读0分31秒阅读模式

背景:公司有一个上传 word 文档和图片的功能,面对 c 端,需求要搞一个检测上传的文档和图片有没有违规内容检测的功能。开发对接了第三方搞了一个检测的接口,现要测试这个接口是不是真能检测出违禁图片。
疑惑:
1.这要怎么测,真的找一些不同类别的违禁图片然后去上传看看会不会拦截吗?
2.顺便想到了人家第三方是怎么开发出来的,搞一堆违禁图片深度学习吗?(这一条不是重点) 文章源自玩技e族-https://www.playezu.com/239629.html

 
评论  4  访客  4
    • 命名
      命名 9

      感谢大家提供的思路

      • 安多利亚.
        安多利亚. 9

        大厂的经验分享下,我们之前做过屏蔽字和图片的上传审核,屏蔽字上,公司平台搭了个 ai 框架,先拦截屏蔽字,再做语义分析。但是我们项目实际接入测试时,还是发现了些问题,比如一些 tw 的 td 人的名字,是无法完全覆盖的;比如一些分词算法,“黑夜总会来临”,夜总会会被分词屏蔽,他们的 ai 判定机制还需要进一步训练。我们图片完全是人工审核。另外抖音应该用了 ai+ 人,我实际使用时发现过 ai 没有过滤掉的图片

        • 七星瓢虫
          七星瓢虫 9

          可以详细了解下自己的功能需求,需要检测类类型是什么?黄色,政治,辱骂……
          然后去了解下对接的第三方接口是否满足自己的业务需求
          梳理系统整体的审核流程,有几个点可以着重考虑下,

          触发审核逻辑【同步校验还是异步校验,同步注意时延,异步注意多次回调结果】
          结果回调逻辑【单次回调和多次回调的处理】,
          处理结果容错【有可能会误判,需要人工审核纠错】

          按照自己的业务需求,对每一个类型的合规校验进行下正反用例验证

          • 小鹏友
            小鹏友 9

            当然啊,如果开源,建议还是了解一下接口实现

          匿名

          发表评论

          匿名网友
          确定

          拖动滑块以完成验证