“色、丑、怪、假、俗、赌”！作为今年“清朗”系列专项行动对网络直播、短视频领域乱象要重点整治“七类问题”，“色”排在了第一位！这也从侧面反映了如今在网络直播、短视频领域最大的“问题”所在。
近期，不少内容平台和物流商城也份份爆出“软色情”问题，315晚会上也重点提到了相关的现象，“问题”如此突出，怎能坐视不理？
据了解，如今不少内容平台纷纷开始利用AI技术来为内容审核提供支持，但是随着内容信息从图文向视频等的发展也为AI“鉴黄”技术提出了新的挑战。
腾讯安全内容风控专家杨红在接受采访时就表示，对于如今的AI“鉴黄”技术挑战的话主要来自三个方面:“第一个方面，从以前的裸露色情(发展)到现在的低俗色情；第二个挑战在于说，以前的主播是单向输出，现在的语音房间是多人互动，场景变复杂的识别难度也是增加的；第三个点就是说，网民的低龄化以及内容的低龄化当中，我们怎样去进一步保护未成年人和青少年的身心健康。”
杨红表示，以图片为例的话，以前针对粗暴的色情图片只要做些简单的分类就可以快速的识别出来，但现在面对低俗的色情内容，则需要尽可能的把图片内容提取出来，比如说需要识别图片的背景到底是室内环境还是室外环境，同时需要识别里面的男性和女性，以及图片是否涉及到未成年人的信息，同时包括图片中有哪些动作，是否有肢体接触，都需要尽可能的全部识别出来。“充分的识别会方便我们对整体的图片做一个综合的判断，但这会导致识别的计算量大幅的增加。”杨红坦言，对于技术平台而言，鉴黄技术发展到今天，已经是高度利用AI和大数据模型，而非纯人力投入。
杨红建议，对于企业而言，在进行内容风控时要围绕内容生产、传播、存储这三个环节，建立起高效的内容审核流程。企业可以选择专业的数字化解决方案，高效的解决内容审核问题。而做好内容风控工作，不仅能够帮助企业合法合规，让企业能够健康持续的发展，也能够让网络空间更加“清朗”。
