Facebook用AI人工智能技术做视频直播内容审查

国家网信办11月正式发布了《互联网直播服务管理规定》，对于网络直播做出了非常严格的规定，包括直播平台以及直播发布者均需要取得互联网新闻信息服务资质，另外要求直播平台应具备即时阻断互联网直播的技术能力。《规定》将于12月1日起正式实行。这个必然对直播平台的视频监管能力提出高的要求。

Facebook在人工智能领域有着十分出色的研究成果，据Facebook 应用机器学习技术总监康德拉（Joaquin Candela）表示，目前他们的团队正在着力于一款新型工具的开发，利用这款新型工具对用户的视频直播内容进行实时监控识别，如身体裸露、暴力等敏感内容将会直接被干预。

目前，单独依赖于网友举报和工作人员的监察已经难以解决违规直播的问题，而Facebook所采用的这种新型功能则更为主动，并且可以有效的避免违规内容的传播。
 

这款技术的开发最初是在今年6月。当时，深受恐怖分子和极端组织在网络暴力元素困扰的Facebook对外透露已经在开发一款可以智能识别的技术，如果照片或者视频存在暴力行为，该软件将会自动识别并进行标注。而现在这一技术用于直播之中，其技术难度无疑再攀高峰。

近年来，直播行业的崛起已经无法让人置之不理，而不论哪个国家，都有违规直播问题的存在。我国随着监管力度的增强，如果企业对此问题置之不理，那很可能就会步诸多被关闭的直播平台的后尘。Facebook利用人工智能来解决问题，国内很多团队都在探索应用各种技术来加强视频直播监管。

沃安科技本身关于视频直播监管的经验来说，可以归纳如下几个方面：第一，客服的在线监管。这个是最容易实施，但针对大并发的视频直播监管，以及长时间监管涉及的人力成本，这个还比较初级； 第二，大数据分析。 数据来源于视频播放数量，视频举报数量，以及视频访问模型分析。这个是一个良好的分析手段；第三，图片和视频识别，针对模式匹配，识别视频关键帧中的信息，结合多种模式匹配方式，判定是否违规。 Facebook团队所说的AI技术进行视频直播监管，想来应该属于后者。 这种技术，国内多家团队提供专门的图像/视频识别服务。