精华内容
下载资源
问答
  • 注册表内容审核注册表内容审核注册表内容审核注册表内容审核
  • 小程序云开发添加内容审核和图片审核 本文介绍 对于小程序涉及信息的发布操作情景,小程序官方提供了内容审核 接口,本文是来学习审核接口的使用。 ​ 内容的审核有很多的实现方式,本次采用的是小程序自带的云函数...

    小程序云开发添加内容审核和图片审核

    本文介绍

    对于小程序涉及信息的发布操作情景,小程序官方提供了内容审核 接口,本文是来学习审核接口的使用。

    ​ 内容的审核有很多的实现方式,本次采用的是小程序自带的云函数进行实现的,因为微信提供的审核接口是免费的(内心os:免费真爽~~),所以审核的效果可能没有你去花钱来的好,但是免费的不用白不用(一般小程序上线有涉及用户主动的发布信息的功能都需要加内容审核,不然你的小程序都不能过审,而且内容审核用这个免费就行),如何验证审核是否起效,辱骂色情内容查不出来,但是有国家领导人的名字会百分百命中!图片也是一样的!

    本文分为两个板块进行编写,方便大家的查看~

    文本内容审核

    文本审核效果图

    https://ae01.alicdn.com/kf/Ha78d8b9d6c8041eb8e5ba7e725e3a803F.jpg

    来到微信小程序的官方文档

    搜索msgSecCheck来到这个页面查看

    https://ae01.alicdn.com/kf/Had78253af28d453faa8fb69b9be7ab3da.jpg

    点击云调用后查看相关的注意事项和要求

    https://ae01.alicdn.com/kf/Hb3b02495189344fcbb344490a888f7f8F.jpg

    大概了解文本审核的要求和规范后就准备开干了

    1. 首先需要创建一个基于云开发的小程序项目(我相信做内容审核应该都是会基本的小程序操作的,实在不会就面向百度编程)

    2. 创建一个云函数,名字随意,我这里叫 contentCheck

    3. 在云函数目录下的config.json文件中配置 “security.msgSecCheck”

    config.json为如下配置

    {
      "permissions": {
        "openapi": [
          "security.msgSecCheck"
        ]
      }
    }
    

    云函数目录下的index.js编写为如下

    const cloud = require('wx-server-sdk')
    cloud.init(
      {
        env: cloud.DYNAMIC_CURRENT_ENV
      }
    )
    /**
     * 文本审核云函数
     */
    exports.main = async (event, context) => {
      //获取文本内容        
      const {content} = event
      try {
        //调用文本审核接口并返回接口
        return await cloud.openapi.security.msgSecCheck({
          content: content
        })    
      } catch (error) {
        return error
      }    
    }
    

    核心的功能已经写完了,现在需要去调用(这里主要是用于展示,没有去进行美化,小盆友们可以根据自身要求去美化)

    在pages目录下创建一个page,我这里创建的名字是contentCheck

    contentCheck.wxml

    <form bindsubmit="checkContent">
      <input name="content" type="text" style="border: 1rpx solid black;"></input>
      <button type="warn" plain="true" size="mini" form-type="submit">检查内容</button>  
    </form>
    

    contentCheck.js

    Page({  
      checkContent(e){
        //获取文本内容
        const {content} = e.detail.value
        wx.showLoading({
          title: '正在审核。。。',
        })
        //调用云函数进行审核
        wx.cloud.callFunction({
          name: 'contentCheck' ,
          data:{
            'content': content
          }    
        }).then(res=>{
          wx.hideLoading()
          //获取状态码  0 》》》正常   87014》》》违规
          const {errCode} = res.result
          if(errCode != 0){
            wx.showModal({
              title: '违规提示',
              content: '输入的内容违规',
              showCancel: false,
              confirmColor: '#DC143C'
            })
          }else{
            wx.showModal({
              title: '提示',
              content: '内容正常',
              showCancel: false,
              confirmColor: '#008080'
            })
          }      
        })  
      }
    })
    

    图片审核

    图片审核效果图

    选择的第二张违规图片大家自行体会,网上应该不难找~(没有恶意,用于验证和学习,求放过!)

    https://ae01.alicdn.com/kf/H31984e6295c5465aa7cebd007dcd8c99v.jpg

    查看图片审核的文档

    老规矩,先去小程序的 官方文档 瞅两眼


    https://ae01.alicdn.com/kf/Hdba122d3f5fb4901bbb10969a709074dQ.jpg

    我们发现和文本审核的内容大同小异,都是支持云调用的,配置的也是差不多的,就是调用的属性参数略有不同,对于value属性的Buffer流参数是一个需要注意的地方!

    看完效果图和注意事项就准备开淦了

    1. 和上面的步骤一样,首先需要创建一个云函数,这里我叫imgCheck
    2. 然后在云函数目录下的config.json文件中添加配置 “security.imgSecCheck”

    config.json

    {
      "permissions": {
        "openapi": [
          "security.imgSecCheck"
        ]
      }
    }
    

    云函数imgCheck的index.js

    const cloud = require('wx-server-sdk')
    cloud.init({
      env: cloud.DYNAMIC_CURRENT_ENV
    })
    /**
     * 图片审核
     */
    exports.main = async (event, context) => {
      //获取buffer流
      const {buffer} = event
      try {
        //调用imgSecCheck接口
        return await cloud.openapi.security.imgSecCheck({
          media:{
            //按照要求填写属性参数       
            contentType: 'image/png',
            value: Buffer.from(buffer)
          }
        })    
      } catch (error) {
        return error
      }
    }
    

    到这里图片审核的功能就写完了,下面是我的调用方式,请根据自身要求进行修改,供参考!

    还是在 contentCheck 页面进行修改

    contentCheck.wxml

    <button type="primary" plain="true" size="mini" bindtap="imgCheck">图片审核</button>  
    

    contentCheck.js

    imgCheck(){
        wx.chooseImage({
          success: (res)=>{        
            wx.showLoading({
              title: '图片审核。。。',
            })
            //获取图片的临时路径
            const tempFilePaths = res.tempFilePaths[0]
            //使用getFileSystemManager获取图片的Buffer流
            wx.getFileSystemManager().readFile({
              filePath: tempFilePaths,                   
              success: (res)=>{            
                const buffer = res.data
                //调用云函数进行审核
                wx.cloud.callFunction({
                  name: 'imgCheck',              
                  data:{
                    'buffer': buffer
                  }            
                }).then(res=>{
                  wx.hideLoading()
                  //存在违规
                  if(res.result.errCode != 0){
                    wx.showModal({
                      title: '违规提示',
                      content: '图片违规',
                      showCancel: false,
                      confirmColor: '#DC143C'
                    })
                  }else{
                    wx.showModal({
                      title: '提示',
                      content: '图片正常',
                      showCancel: false,
                      confirmColor: '#008080'
                    })
                  }
                })
              }
            })
          },      
        })
      }
    

    小程序的文本审核和图片审核到这里就结束了,写的比较粗狂,有什么问题可以评论告诉我!看到一定回复!

    生命不息,编程不止!奥利给!!!

    展开全文
  • 对于一些大型的内容平台来说,建立完善的审核机制才能保证平台内容的合法合规性,那么内容审核效率如何提升呢?小编推荐百度人机审核平台,下面我们来看相关内容:  人机审核平台  内容审核员可以借助人机审核平台...

      对于一些大型的内容平台来说,建立完善的审核机制才能保证平台内容的合法合规性,那么内容审核效率如何提升呢?小编推荐百度人机审核平台,下面我们来看相关内容:
      人机审核平台
      内容审核员可以借助人机审核平台对自有平台的各类短视频、图像、文本内容进行高效审核,还可借助AI审核模型对审核效率进行提升,极大降低了企业和平台的审核成本,该技术能力主要针对拥有企业审核团队提供的审核员操作平台和人工审核团队的服务商。面向的用户主要为人力外包服务商和内容生产企业。
      人机审核平台系统构成


      人机审核平台优势
      1,高效的审核方式
      瀑布流式审核页面高效、直观审核操作路劲更短,审核效率进一步提高。
      2,灵活的规则配置
      对需要审核的多媒体内容在内容审核平台中配置审核规则,包含:审核标签、审核维度、审核松紧度以及自定义图文黑/白名单等。
      3,完善的管理功能
      人机审核平台的管理员可以创建和删除相关审核项目,可进行设置审核类型、审核项目设定抽审比例、以及限制最长耗时的操作,审核员、审核接口人的项目绑定、批量导入、删除、分组管理等操作
      4,完备的安全方案
      全线管理的多极化有助于保证数据安全,支持在内网中进行人机审核平台的私有化部署,对客户保护数据隐私、内外网隔离的安全需求加以满足。
      自从使用了人机审核平台,审核效率大大提升,平台的合规性也得到了了保障!

    展开全文
  • 百度文本内容审核

    千次阅读 2019-02-18 16:14:55
    百度提供了免费的文本内容审核 响应时间在1秒左右 第一步:在百度开发账号中创建应用,获取配置信息 /** * 百度图片审核配置信息 */ public class BaiduSensitiveConfig { /** * 1.app id */ public static ...

    百度提供了免费的文本内容审核 响应时间在1秒左右
    第一步:在百度开发账号中创建应用,获取配置信息

    /**
     * 百度图片审核配置信息
     */
    public class BaiduSensitiveConfig {
        /**
         * 1.app id
         */
        public static final String APP_ID = "";
        /**
         * 2.api key
         */
        public static final String API_KEY = "";
        /**
         * 3.secret key
         */
        public static final String SECRET_KEY = "";
        /**
         * 4.文字认证接口
         */
        public static final String WORD_URL="https://aip.baidubce.com/rest/2.0/antispam/v2/spam";
    
    }
    

    第二部创建应用对象 采用单例模式

    	   /**
     * 实例化百度处理客户端
     */
    private static class SingletonHolder{
        private final static AipContentCensor instance= new AipContentCensor(BaiduSensitiveConfig.APP_ID, BaiduSensitiveConfig.API_KEY, BaiduSensitiveConfig.SECRET_KEY);
    }
    public static AipContentCensor getClientInstance(){
        return SingletonHolder.instance;
    }
    

    第三步

    /** 
     *  敏感词过滤 工具类
     */  
    public class BaiduSensitiveWord {
    	//调用两种方式对比速度
        public static void main(String[] args) {
            String content = "asdfv";
            DecimalFormat df=new DecimalFormat("0.00");
            long start= System.currentTimeMillis();
            System.out.println(check(content));
            long end = System.currentTimeMillis();
            System.out.println("耗时"+df.format((float)(end-start)/1000)+"s");
            long start2= System.currentTimeMillis();
            System.out.println(checkBySDK(content));
            long end2 = System.currentTimeMillis();
            System.out.println("耗时"+df.format((float)(end2-start2)/1000)+"s");
        }
        /**
         * 百度检查文字输入是否合格
         * 调api接口实现
         * @param content
         * @return
         */
        public static boolean check(String content){
            HttpClient client = HttpClientBuilder.create().build();
            String url = BaiduSensitiveConfig.WORD_URL+"?access_token="+AuthService.getAuth();
            HttpPost post = new HttpPost(url);
    
            JSONObject response = null;
            try {
                StringEntity s = new StringEntity("content="+content);
                s.setContentEncoding("UTF-8");
                s.setContentType("application/x-www-form-urlencoded");
                post.setEntity(s);
                HttpResponse res = client.execute(post);
                //200
                if(res.getStatusLine().getStatusCode() == HttpStatus.SC_OK){
                    String result = EntityUtils.toString(res.getEntity());
                    // 返回json格式:
                    System.out.println(result);
                    response = JSONObject.parseObject(result);
                }
            } catch (Exception e) {
                throw new RuntimeException(e);
            }
    
            if (response.containsKey("result")){
                int result = JSONObject.parseObject(response.get("result").toString()).getInteger("spam");
                if (result==0) {return true;}
            }
    
            return false;
    
        }
    
        /**
         * 百度验证文件合法
         * 调SDK实现
         * @return
         */
        public static boolean checkBySDK(String content){
            AipContentCensor client = BaiduSensitiveImg.getClientInstance();
            org.json.JSONObject response = client.antiSpam(content, null);
            System.out.println(response.toString());
            if (response.has("result")){
                int result = JSONObject.parseObject(response.get("result").toString()).getInteger("spam");
                if (result==0) {return true;}
            }
            return false;
        }
    }  
    

    注:调用api接口时需要获取access_token,方法在百度文档中可以找到。

    package com.mwztc.utils.baidu;
    
    import com.mwztc.config.BaiduSensitiveConfig;
    import org.json.JSONObject;
    
    import java.io.BufferedReader;
    import java.io.InputStreamReader;
    import java.net.HttpURLConnection;
    import java.net.URL;
    import java.util.List;
    import java.util.Map;
    
    /**
     * 获取百度云接口调用token
     */
    public class AuthService {
    
        /**
         * 获取权限token
         * @return 返回示例:
         * {
         * "access_token": "24.460da4889caad24cccdb1fea17221975.2592000.1491995545.282335-1234567",
         * "expires_in": 2592000
         * }
         */
        public static String getAuth() {
            // 官网获取的 API Key 更新为你注册的
            String clientId = "百度云应用的AK";
            // 官网获取的 Secret Key 更新为你注册的
            String clientSecret = "百度云应用的SK";
            return getAuth(BaiduSensitiveConfig.API_KEY, BaiduSensitiveConfig.SECRET_KEY);
        }
    
        /**
         * 获取API访问token
         * 该token有一定的有效期,需要自行管理,当失效时需重新获取.
         * @param ak - 百度云官网获取的 API Key
         * @param sk - 百度云官网获取的 Securet Key
         * @return assess_token 示例:
         * "24.460da4889caad24cccdb1fea17221975.2592000.1491995545.282335-1234567"
         */
        public static String getAuth(String ak, String sk) {
            // 获取token地址
            String authHost = "https://aip.baidubce.com/oauth/2.0/token?";
            String getAccessTokenUrl = authHost
                    // 1. grant_type为固定参数
                    + "grant_type=client_credentials"
                    // 2. 官网获取的 API Key
                    + "&client_id=" + ak
                    // 3. 官网获取的 Secret Key
                    + "&client_secret=" + sk;
            try {
                URL realUrl = new URL(getAccessTokenUrl);
                // 打开和URL之间的连接
                HttpURLConnection connection = (HttpURLConnection) realUrl.openConnection();
                connection.setRequestMethod("GET");
                connection.connect();
                // 获取所有响应头字段
                Map<String, List<String>> map = connection.getHeaderFields();
                // 遍历所有的响应头字段
                for (String key : map.keySet()) {
                    System.err.println(key + "--->" + map.get(key));
                }
                // 定义 BufferedReader输入流来读取URL的响应
                BufferedReader in = new BufferedReader(new InputStreamReader(connection.getInputStream()));
                String result = "";
                String line;
                while ((line = in.readLine()) != null) {
                    result += line;
                }
                /**
                 * 返回结果示例
                 */
                System.err.println("result:" + result);
                JSONObject jsonObject = new JSONObject(result);
                String access_token = jsonObject.getString("access_token");
                return access_token;
            } catch (Exception e) {
                System.err.printf("获取token失败!");
                e.printStackTrace(System.err);
            }
            return null;
        }
    
    }
    
    展开全文
  • 国家广电总局发布了《基于区块链的内容审核标准体系(2021版)》,该标准体系基于区块链的内容审核标准体系以促进媒体内容健康可持续发展为目标,从内容审核业务发展实际出发,覆盖基于区块链的内容审核系统、业务...
  • 在线平台提供了一个内容审核选项工具箱,例如标签,算法排序和删除。 内容标签是对用户生成的内容的视觉和/或文本附件,旨在为观看者将该内容上下文化。 内容标签的示例是事实检查或其他信息。 本质上,内容标签只是...
  • 《网络短视频内容审核标准细则》是中国网络视听节目服务协会发布的审核标准细则。《网络短视频内容审核标准细则》针对网络视听领域存在的不足和薄弱环节,分别对开展短视频服务的网络平台以及网络短视频内容审核的...
  • 审核快照 这个项目每小时拍摄一次西雅图时报首页的图片,用于各种内容审核
  • 最新的内容审核服务 使用Pavlov筛选图像中的露骨,恶意或侵权内容。 Pavlov是一种自动化解决方案,可让您控制内容审核过程,并不断从反馈中学习。 特征 自动化的内容审核-除Google Cloud Vision之外,还使用我们基于...
  • 逐浪CMS中,内容审核的设计方法包括: 1.默认审核模式 2.开启内容总管审核模式 3.栏目-绑定流程,即采用自设计流程 4.办公OA流程 5.基于自定义路由逻辑开发前端流程 6.基于MVC的razor语法进行深度二次开发 ...

    基于Zoomla!逐浪CMS可以方便灵敏的设计流程,并由此进行内容与公文流程。
    众所周知,作为CMS系统,内容流转是其重中之重中。

    在Zoomla!逐浪CMS中,内容审核的设计方法包括:

    • 1.默认审核模式
    • 2.开启内容总管审核模式
    • 3.栏目-绑定流程,即采用自设计流程
    • 4.办公OA流程
    • 5.基于自定义路由逻辑开发前端流程
    • 6.基于MVC的razor语法进行深度二次开发

    得益于微软平台强大的扩展和可开发能力,比如razor语法的自由定义,开发者往往能开发优秀的功能,并不受代码、页面、框架所制约。

    下面重点讲解Zoomla!逐浪CMS V8中的前两项审核模式,即:

    • 默认审核模式
    • 开启内容总管审核模式

    默认审核模式

    逐浪CMS默认审核为二级审核,即用户发表,管理员审核。
    系统后台带审核按钮,如下图所示:
    在这里插入图片描述
    管理员可以轻易的操作信息是否通过审核,或者不通过审核。
    默认用户在前端会员中心发布信息,则也是未审核状态,只有管理员审核,才能最终发布。

    这样设计的出发点,是使整个站点信息可控,安全管控,避免信息被注入或恶意发布,符合中华人民共和国信息安全管理规定以及国际通用规定。

    小提示:后台内容审核,还可以采用管理员角色、栏目权限来进行进一步订制,从而随心订制自己的审核工作流,如下图所示:
    在这里插入图片描述
    在这里插入图片描述

    在这里插入图片描述

    内容总管模式

    对于标准式的信息审核,很多总部型公司会不满足于这样的使用。
    那么可以开启总管审核模式。
    首先进入系统配置-网站配置-进阶信息,设置内容配置,开启内容审核,如下图:
    在这里插入图片描述

    当启用了信息审核后,所有管理员发布的信息,也和前台会员发表一样,都不会直接发布。
    在内容管理中,呈现为:申请审核,如下图所示:
    在这里插入图片描述

    启用后,信息汇总在一个审核台进行审核,其默认功能位置:
    在这里插入图片描述
    其审核界面如下所示:
    在这里插入图片描述
    待审核列表:
    在这里插入图片描述

    在这里插入图片描述

    有用户会问:这个审核功能放得这么深,用起来不方便。
    其实完全不用担心,可以定义快速导航,把它放在metro块显示,如下图:
    在这里插入图片描述

    展开全文
  • 在威胁你小程序上传审核时因为要求内容审核而不通过。 文字内容审核 云函数使用 if(event.type=='checkmsg'){ try { const res = await cloud.openapi.security.msgSecCheck({ content: event.content }) ...
  • php 微信敏感内容审核

    2020-10-27 16:34:04
    微信文档参考:... * 内容审核 */ function security_msg($content) { //获取appid,appsecret,access_token $appid = ''; $appsecret = ''; $access_token
  • 今天小编给大家分享百度大脑内容审核平台升级盘点:近期我们在审核维度、模型效果等多方面进行了系统性升级,进一步丰富审核标签、对识别的精度进行了提升,下面来看相关内容:  百度大脑内容审核平台,拥有灵活的...
  • 内容审核(Content Moderation),是基于图像、文本、视频的检测技术,可自动检测涉黄、广告、涉政涉暴、涉政敏感人物等内容,对用户上传的图片、文字、视频进行内容审核,帮助客户降低业务违规风险。 随着互联网的...
  • 内容审核中,总有一些疏忽,犯下无心之过,导致内容安全问题。就此,网易易盾内容审核团队分享了日常审核中最容易疏漏的点,希望能帮到大家: 图片中与背景色相似的水印(微信、联系方式等),未察觉; ...
  • 内容审核 确定文本是否包含坏词。 安装 composer require monthly-basis/content-moderation 例子 独立PHP <?php require_once('vendor/autoload.php'); $containsBadWords = MonthlyBasis\ContentModeration\...
  • 背景内容审核(Content Moderation),是基于图像、文本、音视频的检测技术,可自动检测涉黄、涉政涉暴、涉政敏感人物、图文违规等内容,对用户上传的图片、文字、音视频进行内容审核...
  • 平常上网浏览消息,你我都以为接收到的是所有信息,其实有这样一个行业默默存在,把许多有害信息屏蔽了,互联网内容审核正在走向人工强干预。 互联网内容审核工作就像是“推石头”。审核员们坐在办公室内,每日对着...
  • 随着对社交媒体和在线社区越来越多的参与,内容审核已成为在线体验的重要组成部分。 自从这些数字平台问世以来,志愿者主持人一直是平台治理的重要劳动力。 但是,人的节制受到了限制大量和不良内容的能力的限制。 ...
  • 使用RStudio Connect服务器API构建的内容审核报告(1.8.6+) 别针 用户和组创建(2)个引脚,一个用于用户列表信息/v1/users ,一个用于组列表信息/v1/groups ,用于下游审计报告。 内容列表创建使用Admin API密钥...
  • 一、 内容审核行业痛点 随着移动互联网的发展,大众内容消费和自我表达的需求不断升级,以PGC为主的各类在线平台投众所好,提供UGC(用户生产并发布的内容)的功能,而聚焦UGC建立的平台也在不断涌现,催生了“人人...
  • 使用AWS构建内容审核系统 这是我关于“在不使用ML的情况下将计算机视觉模型添加到您的应用程序”中的讨论的示例代码 目的是教初学者/中级开发人员如何使用Rekognition API添加计算机视觉模型。 我选择内容审核示例,...
  • 上周,新浪科技发布了一篇《FB与内容审核员和解:后者因心理创伤获赔5200万美元》的文章,报道了Facebook同意支付5200万美元和解与内容审核员的诉讼,后者声称因为反复查看儿童性侵和恐怖主义图片等令人不安的内容,...
  • 数美科技怎么样做好内容审核和业务风控
  • 该标准体系基于区块链的内容审核标准体系以促进媒体内容健康可持续发展为目标,从内容审核业务发展实际出发,覆盖基于区块链的内容审核系统、业务流程、安全、管理等环节,促进基于区块链的内容审核系统标准化建设和...
  • 关于华为云内容审核 华为云内容审核是基于图像、文本、视频的检测技术,可自动检测涉黄、广告、涉政涉暴、涉政敏感人物等内容,对用户上传的图片、文字、视频进行内容审核,并且可识别照片是否清晰及对表单图片扭曲...
  • ​背景 随着网络监管越来越严格,UGC网站都...视频内容实则由音频内容、视频画面内容两个对象组成,视频画面内容的机器审核,业界目前常采用截取画面帧上传识别,最终复用的是图片识别通道对场景、人物、物品进行判断
  • 猫爪接入百度大脑内容审核平台后,有效提升了聊天、好友圈、微日记等多个业务场景的内容风控能力,通过接入百度内容审核的色情识别、涉政识别、暴恐识别等服务,对用户上传的文本和图像信息进行多维度识别,精简了...
  • 最近,各家新闻资讯App和直播平台都开始对内容审核人员的招聘情有独钟。早在今年年初,今日头条就启动高达2000人的内容审核编辑招聘,并点出党员优先。而在4月10日,今日头条CEO张一鸣又在一份公开信中表示,会将...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 7,292
精华内容 2,916
关键字:

内容审核