华为云联合行者AI发布“游戏安全智能平台” 破解游戏安全治理难题

摘要:游戏厂商苦“灰黑产”久矣

灰黑产、内容合规等游戏安全问题是每个游戏厂商都面临的难题。而且随着游戏行业的日益繁荣,处理游戏安全的难度陡然上升,传统运营手段局限性日益凸显——技术实力不足,耗时耗力。

这种形式下,越来越多的游戏厂商开始考虑通过游戏安全解决方案来攻克自己面临的游戏安全问题,护航游戏业务健康发展。

9月2日,Game For游戏创新论坛2022在广州召开。成都潜在人工智能科技有限公司(以下简称“行者AI”)联合华为云发布「游戏安全智能平台」。该平台是行者AI基于华为云ModelArts打造的一站式游戏安全解决方案,是处理游戏安全问题的进阶版平台。

该平台提供智能高效的内容审核解决方案,为玩家提供清朗的游戏环境;支持全球7大地区、22种语言的多语种违规检测,让游戏出海更省心;同时,还提供覆盖50+种业务场景、识别准确率高达99.9%的智能灰产挖掘解决方案,帮助游戏企业一手掌控系统风险。

一、恶意内容、灰黑产怪现状

游戏厂商处境艰

当下,越来越多的厂商都意识到了游戏安全的重要性。处理好游戏安全问题,才能保证营收和口碑,不然轻则上热搜被玩家吐槽,重则被整改或者下架。

行者AI CEO陈洪宇在会上介绍,游戏安全一般分为内容安全和业务安全两个方面。据统计,这两个方面涉及的灰黑产每年给游戏开发商带来数十亿元规模的损失。

(行者AI CEO陈洪宇)

在内容安全方面,游戏本身的内容是厂商可以控制的,但是玩家发布的内容就不是厂商可以控制的了,而这正是导致很多游戏厂商被下架的原因。

总的来说,这类违规内容具有庞大、复杂、多变的特性,厂商内容审核难度陡增。有数据显示,这些恶意内容的量级数以亿计,会有文字、图片、语音等多种形式;且不同游戏类型游戏的违规内容也五花八门,违规信息可能出现在昵称、头像、聊天窗口、名片签名、空间中。此外,这些违规内容生产者们,为了躲避系统监测,手段一直升级,会用谐音字、象形字、乱码等形式绕过检测。所谓“魔高一尺,道高一丈”,面对庞大复杂多变的违规内容,游戏厂商需要实时更新敏感词库、更新检测系统。

而这其中,还有一类内容会直接影响游戏厂商营收——游戏内出现的恶意拉人现象。这种现象在MMORPG、SLG大型游戏尤其明显。这类游戏的买量成本非常高,很多拉人的游戏工会潜伏在游戏中,在游戏内通过公开聊天频道或者私聊的方式在游戏中“挖”人,诱导玩家去玩其他游戏。这种行为会让游戏玩家损失用户,营收下降。

违规内容庞大、复杂之外,玩家对于清朗游戏环境的要求也在提升。这是因为疫情之下,游戏充当了更多的社交属性,玩家也很重视游戏中的社交环境氛围。有数据显示,20%-30%玩家非常重视社交氛围,如果在游戏里出现大量低俗、谩骂的内容,会让很多玩家反感,影响游戏口碑。双向叠加,游戏内容安全重要性日益凸显,厂商们也亟需更可靠、高效的技术来加持内容审核。

在业务安全方面,让游戏厂商头疼的灰黑产愈发猖獗,更直接地影响着厂商的钱袋子。陈洪宇表示,这方面的灰黑产主要包括代充、外挂、羊毛党等7大类型。以外挂来说,这种行为不仅影响厂商的营收,也会给玩家带来经济损失。玩家购买外挂后,可能会在开挂时被封号且投诉无门,这会影响玩家游戏体验。

同时,还有SLG游戏里经常充斥的资源商,这些资源商会低价出售游戏中的资源礼包,那么就会直接影响厂商的资源礼包出售量,直接让游戏的整体收入下滑。而更常见的灰产主要聚焦于游戏账号、游戏的营销工具以及自动脚本。这些灰产行为会破坏游戏的平衡性,甚至会造成游戏本身的代码和美术资源的泄露,对游戏厂商来说是致命打击。

二、联手华为云

行者AI使出“必杀技”

基于游戏厂商面临的内容安全和业务安全问题,华为云和行者AI联手推出了「游戏安全智能平台」,为游戏厂商提供智能高效的解决方案,全方位护航游戏安全。

两者联手打造的「游戏安全智能平台」实现了99%精准拦截率的人工智能审核,而且搭配有24小时不间断的人工服务咨询,有效节省厂商的成本并提高效率。

「游戏安全智能平台」还有基于关系图谱的挖掘和机器学习的算法,可以根据已有的灰产账号识别有关联关系的灰产账号,解决潜在威胁,可以通过AI技术实力防止厂商用户流失并保护厂商的营收。

讲完了「游戏安全智能平台」的技术能力,还要看看平台的实操问题。

以传奇类游戏为例,拉人广告是困扰着传奇类游戏的开发商的主要游戏安全问题。「游戏安全智能平台」的广告识别率达行业领先水平,综合识别率可达96.32%,精准的广告识别率正是传奇类网游所需要的。具体怎么实现的,以一个具体业务场景为例:

一些灰产制造商,首先会用普通的语言表述来试探传奇类游戏平台内的敏感词。一旦这些表述被游戏平台识别,这些灰产制造商会使用分离字形、特殊字形的方式躲避游戏平台的敏感词,甚至会使用藏头诗或者特殊话术的方式躲掉审核和监控。

这时「游戏安全智能平台」不仅会进行常规的那审核,针对藏头诗这种狡猾的方式,还会利用深度语言模型来解决藏头诗的问题。这是因为「游戏安全智能平台」的模型可以增量式主动学习,让AI越来越聪明。

同时,「游戏安全智能平台」还提供定制化服务和专家运营,为客户提供舆情、风控等专业解决方案。

就这样,「游戏安全智能平台」让客户的产品免除了被下架的风险,保护了客户营收,同时让客户不会收到用户的不良体验感投诉。

三、游戏安全产品多且杂

厂商应该如何选

游戏安全的重要性日益凸显的当下,市场上也涌现了不少解决此类问题的游戏安全产品。这种情形下,游戏厂商该如何选择?

除了要考虑技术实力,这类产品背后的公司和平台也是需要考察的因素。

「游戏安全智能平台」背后的行者AI在技术开发上有着近5年的积淀,在技术上会跑在新型灰产前面。在技术高速发展的当下,很多灰产账号通过云增机方式、IP池、帐号池,绕过传统的运营手段。

但是行者AI会基于深度学习框架,把低维度信息,账号登陆信息,游戏每天的日常交易,低维度抽离成了上万个高维度信息,从这些里面可以精准的找出危险玩家和正常玩家,帮客户找回以前的灰产损失。

行者AI在给Lakoo(拉阔游戏)旗下的一款MMORPG产品处理游戏安全问题时。深度分析了这个游戏面临的灰产问题。行者AI通过分析账号行为数据、结合账号之间的关联信息,完成异常账号的深度挖掘,准确率远超客户预期,行者AI在灰产挖掘上可以做到找准率达96%以上,帮助客户降低直接的经济损失。

此外,行者AI团队有着近10年的游戏市场和开发经验,可以为客户提供符合当下发展规划的定制化服务。

行者AI在服务武汉掌游时,使得其审核量实现了全天24小时实时监控审核。武汉掌游作为华中地区最大的发行商之一,旗下发行游戏上百余款,每天的数据量是巨大的,这样的成绩为武汉掌游减少了更多游戏安全风险。

目前,「游戏安全智能平台」智能模型的准确率、召回率可达99%,而且智能模型会随着游戏数据不断增大而变得更“聪明”。正是凭借「游戏安全智能平台」的这个实力,掌游原有的50人的审核人员缩减到10人左右。缩减下来的人力成本每个月可以达到数十万,这对客户来说是意外的惊喜和收获。

「游戏安全智能平台」背后还有华为云。

这就不得不提华为云一站式AI开发平台ModelArts,这个AI“利器”在「游戏安全智能平台」的联合创新中起着关键性作用。ModelArts是华为云在2018年开始发布的AI平台,迄今为止已经上线运行了整整四年的时间,是中国市场占有率最高的AI平台。

在AI研发效率方面,华为云ModelArts Workflow帮助行者AI进行产品的全流程生命周期管理。将行者AI的产品能力封装成可视化的流水线中的一个个步骤,使用者只需要关注流水线生产出来的模型或者应用是否符合上线要求,操作简单便捷,易于复用及二次开发,加速完成AI应用落地和迭代。

另外,针对AI开发过程中算力稀缺且昂贵的问题,ModelArts可支持按需使用,秒级调用万核规模异构训练作业。

陈洪宇也提到,行者AI通过ModelArts特有的异构资源调度框架,帮助客户解决模型定制化需求,还基于Ml-ops的全流程开发工具,节省了大量的模型训练和迭代时间。

除了联合行者AI发布「游戏安全智能平台」,华为云自身也有一整套游戏安全能力。目前,华为云已协同生态伙伴共创了游戏外挂、游戏灰产、内容安全、单机盗版以及云上安全等场景化解决方案,覆盖游戏安全全场景需求,全方位守护游戏运行。同时,依托华为自身30年安全运营积累,华为云秉承中立、安全、合规的理念并积淀了丰富经验,能够为游戏公司的用户信息、业务数据提供安全合规的运行环境。

有了华为云的大平台实力和行者AI的行业老兵加成,「游戏安全智能平台」可以给客户提供更稳定、可靠的游戏安全技术支撑。

后记

值得一提的是,行者AI加入了华为云生态伙伴计划D-PLAN。这一计划是围绕华为云一站式AI开发平台ModelArts推出的一项合作伙伴计划,通过与合作伙伴共建AI生态体系的方式,并提供营销支持和销售支持,全面向全球发布(含伙伴云)。伙伴可参与华为云相关品牌活动,进行品牌运营,优先导入商机,与华为云一起,全方位打通AI开发中的堵点、难点,加速AI应用落地。

可以预见,在华为云开放的生态环境下,还可以帮助更多行者AI这样的公司,诞生更多「游戏安全智能平台」这样的产品,不仅可以打好游戏安全保卫战,还将服务游戏厂商去满足玩家和市场更多不断变化的新需求。