据外媒最新消息,日前,3000多名在印度外包巨头高知特(Cognizant)公司担任Facebook内容审核员的美国员工发起了一宗集体诉讼,Facebook和高知特被列为被告方,这些内容审核员要求对这份工作引发的精神损害进行经济补偿。

这次的事件其实早有预兆,早在去年的9月25日,就有一位前Facebook合同工向公司发起诉讼,指控在审查了平台上那些令人不适的图片后遭受精神创伤的内容版主没有获得公司适当的保护。诉讼称,Facebook的合约审核员每天面临着“数千份与儿童性虐待、强奸、酷刑、人兽交、斩首、自杀和谋杀有关的视频、图像与直播广播”。

这是我们所不能忽视的,随着社交媒体的普及,Facebook、推特和Youtube这样的平台上确实涌现出了越来越多的违规内容。这些违规内容给社会造成了极大的威胁与危害,尤其是影响到了青少年网络用户身心的健康成长。

在过去几年中,舆论对于Facebook和推特、Youtube等社交媒体对于用户上传的违规内容放任不管进行了抨击,随后社交媒体公司开始在全世界雇佣大量的内容审核员,对涉嫌违规的用户内容进行审查。但是内容审核员这个群体很快就出现了一系列问题:比如工资低,劳动负荷过大,另外还有因为长期接触有害内容而引发了心理问题的。

这一系列的问题都揭示了一件事——人工智能的审核,需要被提上日程了。目前大部分视频公司都是采取技术加人工的模式,技术在这里面的作用主要是清除明显违规的有害内容,而一些模糊的内容,则还是需要通过人工的方式进行。

虽然不能完全替代,但人工智能审核的意义却是非常重大的。假设有一万个视频,如果是纯人工的话,这些视频全部都要看;而技术加人工的话,技术能确认9990个视频,人工只需要对剩余10个视频进行确认即可——这对于公司而言,大大降低了成本,因为以前或许需要配备上百个审核人员,现在或许只需要配备十几个就够了。

在此背景下,极链科技Video++针对目前行业面临的主要问题,响应政策号召,结合人工智能技术,打造全栈式智能内容安全审核引擎——神眼系统,用AI技术帮助平台方减轻内容审核压力、降低内容审核成本,为客户提供一站式的智能内容安全解决方案。

一、神眼系统让内容审核更规范

神眼内容安全审核系统基于先进的深度学习算法,面向视频平台、社交网站、网络社区、融媒体等客户群体,提供包括视频、文本、图像等泛内容的涉黄、暴力、政治敏感等风险内容的识别,高效遏制风险、全面释放审核人力、提高审核效率、净化网络环境、提升用户体验。

产品核心功能包括:智能鉴黄、智能鉴暴、政治敏感人物识别、公众人物识别、违禁品识别、广告检测、图像质量检测、logo识别、OCR审核等。该系统支持本地私有化部署,独立的运营平台满足精细化运营需求,并为客户配套三次审核流程,机器+人工双重保障审核准确率高于行业平均水平,为企业构建牢不可破的安全防御体系。

二、六大核心优势 直击行业痛点

面对海量的互联网信息,神眼系统直击内容安全领域的痛点问题,大批量解放人工审核,提供更为精准、高效的AI内容审核服务,为网络形成安全合法的良性生态循环提供智能化助力。

多维度的内容审核:支持文本、图片、视频多维度的审核服务,并包含丰富的标签,精确匹配各种审核需求;

模型精度行业领先:独特AI算法,海量数据训练的审核模型,准确率可达98%,行业领先;

智能化自定义设置:支持自选审核维度,自定义审核松紧度、自定义图片/文本黑库和敏感人物名单;

紧跟热点:同步辨识敏感和普通人物,一旦普通人物变为敏感人物,可快速屏蔽相关视频;

易用性强:可视化审核数据统计后台,功能全面,零学习门槛;

灵活部署:根据客户项目需求不同应用场景,支持私有化部署方式。

三、人工智能技术加持 精准击破内容风险

神眼内容安全审核系统基于海量特征样本的多维度内容识别技术,采取全序列采样识别,支持轨迹流跟踪,有效提升视频抽帧的质量和检测效率。该技术能为视频、图片、文本等场景提供强大的深度学习算法和算力保证,对政治人物、色情、暴恐、旗帜等内容进行识别审核,大幅度降低内容风险,可减少90%以上人工审核成本。

经过多年的技术迭代升级,极链科技Video++构筑了技术壁垒,实现了行业领先,拥有视频识别、图像识别、文本识别等人工智能技术,沉淀了包括VideoAI金目视频内容结构化引擎、顽石OS视联网操作系统、VideoNet视频AI数据集等一系列的基础平台,专注消费级视频AI技术研发和商业应用。

目前,神眼内容安全审核系统已全面对外开放,极链期待与更多企业携手并进,共同努力打造更加安全健康的网络环境。