游戏行业风控系统建设：内容风险、行为风险与账号风险的全面解析

之前我写过一篇文章《浅谈风控体系建设》，介绍了风控体系的核心模块。但不同行业的风控体系的具体内容会根据各自行业的特点进行调整。作为游戏行业的中端产品，我会结合游戏行业的特点，详细讨论游戏行业的风险以及相关的制度建设。

博彩业的风险

在游戏行业，业务领域不仅限于游戏本身，还包括一系列衍生的外部功能，例如官方网站、官方活动、客服系统、用户中心、官方商城和官方社区等。游戏本身和外部功能带来的风险可分为：内容风险、行为风险、账户风险等。

1.内容风险：

游戏行业内容风险是指各方（如用户、非法产品、竞品、内部）发布的对游戏有害的内容，包括违反法律法规的内容、涉及黑灰产业的内容、不当内容等。内容。竞争性广告和影响用户体验的内容会对业务绩效产生负面影响。

如果按照内容类型来分类，可以分为文本、语音、图片、视频等内容类型。

1）正文：

文本风险内容通常出现在游戏内，例如聊天频道内容、玩家姓名、玩家签名、行会等。

如图所示，游戏内聊天频道中的辱骂内容属于“影响用户体验”类别的风险内容。

图片来自百度搜索

如图所示，游戏中聊天频道的广告内容属于“黑灰产业”类型的广告内容。

图片来自百度搜索

同时，游戏外的社区帖子、官网的文章提交、官方商城的产品信息等也会出现风险。

2）语音：

语音风险内容主要存在于游戏内频道语音留言和实时语音通话中。尤其是在竞技游戏中，玩家需要实时沟通、交流。例如，在《王者荣耀》这样的MOBA游戏和《Apex》这样的射击游戏中，有效的沟通往往可以提高游戏的胜率。

图片来自百度搜索

然而，一些非法内容也可能出现在语音频道中，例如讨论非法活动的“法律禁止”内容，以及玩家互相辱骂的“影响用户体验”的风险内容。

3）图片：

在游戏行业，图形风险内容通常出现在玩家头像、公会头像、聊天频道等游戏内场景，或者玩家社区、官方提交活动等游戏外场景。如下图所示，游戏中很容易出现低俗的头像图片。这些图片属于违禁、违法的非法内容。

图片来自百度搜索

4）视频：

风险视频内容一般出现在官方社区贡献活动中。这类内容比较少见，因为视频内容的审核成本较大。

此外，游戏行业的内容风险可以根据内容时效性要求进行分类，主要分为以下两类：

1）实时内容：某些内容如果在玩家发布后无法实时发布，将会对玩家的游戏体验产生较大的负面影响。例如，在游戏内聊天频道和语音通话中，玩家经常发布需要与其他玩家互动的内容。此类内容如果无法实时传递，将会对玩家的交互体验造成灾难性的影响。此外，对于合作策略玩法（例如地下城、团战）的游戏，如果玩家无法实时沟通，游戏的核心内容体验将无法实现，甚至可能导致玩家直接流失。

图片来自百度搜索，FF14分组玩法

2）延迟内容：延迟内容实时性要求较低，主要用于显示内容。例如，在游戏内社区帖子、玩家自定义的角色名称/头像、公会自定义的名称/头像等方面，这些内容的延迟发布不会影响玩家的核心体验。

2.行为风险：

游戏行业的行为风险是指各方（如用户、黑品、竞品、内部人员）对产品的潜在风险行为，包括黑灰行业、脚本外挂、竞争对手的竞争行为以及内部风险等。对业务的影响。

如果按来源分类，可分为：

1）玩家行为风险：

玩家行为风险是指玩家产生的对游戏本身产生影响的风险，包括但不限于：

一）脚本：

玩家使用脚本来操作机器，而不是手动玩游戏。这种行为通常发生在“数值养成游戏”和“竞技游戏”中。

-数值开发游戏脚本：

在“数值开发游戏”中，玩家通过参与游戏内的活动/任务/游戏玩法来获取资源。游戏制造商利用这个流程来指导用户保留和付费。然而，由于游戏内容设计中的成本考虑，玩家常常需要重复参与相同的活动/任务/游戏玩法，以最大化游戏内容的收益。

然而，这种重复的活动/任务/游戏玩法允许玩家使用脚本自动参与，从而导致游戏中的不公平竞争环境。不使用脚本的玩家处于劣势，严重影响游戏体验。尤其是在资源有限的游戏中，比如稀有装备只有一件，限时释放的概率很低。使用脚本24小时打怪的玩家获得装备的概率非常高，普通玩家根本无法比拟。竞争，严重影响了正常玩家的游戏体验。

图片来自百度，一款MMO自动杀怪脚本。

此外，脚本的滥用还会加速游戏内容的消耗，缩短游戏的生命周期，导致用户流失。例如，一款游戏提供一个版本的内容供玩家玩一个月，然后在一个月内推出下一个版本以继续吸引玩家。但由于剧本泛滥，原本一个月的内容在一周内就被剧本玩家消耗殆尽，剩下的三周就成了“长草期”，导致玩家自然流失严重。

-竞技游戏脚本：

竞技游戏的目的是让玩家在人类反应速度的极限（大约100毫秒）内进行技术竞争。为了磨练自己的技能，玩家需要进行大量练习。然而，如果使用脚本，玩家无需任何实际练习就可以轻松达到反应速度的极限。在以往的射击游戏中，玩家需要通过练习来掌握发现敌人、走位、射击等技能。然而，现在，一旦使用脚本，机器就可以实时进行图像识别，并立即锁定目标。脚本还可以控制鼠标瞄准开火，玩家无需亲自操作即可完成精准击杀。

图片选自CSDN作者前端仙人的文章《AI算法实现CSGO自动锁头辅助脚本》

对于那些练习了很长时间的玩家来说，面对使用剧本的对手，他们会感到无比沮丧，然后选择失败。

ii) 插件：

玩家利用外挂进行非法操作，通过作弊获取游戏内优势。与脚本相比，外挂利用数据包、抓包工具提交伪造的参数，从而改变玩家在游戏中的能力。脚本玩家可能只能在人类反应速度的极限内进行游戏，而作弊玩家则直接获得巨大的优势。在脚本玩家还在锁定目标之前，外挂玩家已经将自己的生命值修改为无敌，并使用了游戏中不存在的武器。

图片来自百度搜索。 CF外挂玩家直接飞上天空。

外挂对游戏厂商的代码具有攻击性，对公平性造成更严重的损害。这是一种违法行为，需要严厉打击。

iii) 卡牌BUG：

卡牌BUG是指利用游戏漏洞获取利益。卡牌BUG最常见的类型是“利用BUG获取资源”和“利用BUG进行不正当竞争”。

-利用BUG刷资源：

由于游戏厂商在设计过程中出现的一些错误，可能会存在一些BUG，让玩家非法获取游戏道具或货币。一些玩家会故意利用这些bug大量获取高价值道具，这会导致游戏生态系统崩溃，给游戏厂商造成严重损失。但解决这些问题需要考虑一些对用户体验影响巨大的解决方案，比如回滚或者扣除道具，这可能会导致大量的用户流失。

图片来自百度搜索

-利用BUG进行不公平竞争：

游戏中存在一些错误，可能会给玩家在比赛中带来不公平的优势。例如，在射击游戏中，玩家可以利用地图模型的漏洞，让自己的角色进入地图之外的区域（内部世界），从而对其他玩家造成不利影响。

图片来自百度搜索

iv) 过载能力行为：

此类风险涉及到游戏本身的服务承载能力。是厂家自身造成的，并非玩家故意造成的风险。

当玩家访问量超过原有承载能力时，游戏功能可能会受到影响，出现卡顿、断线、登录失败等问题，严重影响玩家的游戏体验。

图片来自百度搜索，宣布山海镜花开服。

2）违法行为风险：

黑色产业行为风险是指非法产业通过脚本、外挂等手段批量从游戏中牟取利益的行为。这些行为包括但不限于：

i) 脚本刷注册：

黑产利用脚本、外挂工具大规模获取游戏账号。这些账户可用于其他非法活动（广告或下文提到的行为风险），或出售给下游黑制作工作室。

这种行为不仅会干扰游戏正常的服务器启动过程，还会影响数据分析工作。游戏服务器的实际玩家数量通常由游戏内资源的投入和竞争的激烈程度决定，不同类型的游戏对最佳服务器玩家数量的要求不同。如果黑品的刷单行为影响了服务器中的真实玩家数量，这将直接影响游戏厂商的收入。

ii) 刷新初始号码：

黑品利用脚本让机器自动完成游戏中的新手教程和简单的玩法/任务。

有些游戏会让你在前期获得更高价值的角色/装备，比如带有抽卡功能的游戏。黑品利用脚本、外挂工具注册大量游戏角色，并让这些角色完成游戏内任务并升级到一定等级，从而可以进行多次抽奖。通过反复刷大量账户，黑人演员可能获得价值更高的初始账户。这些账户可以在账户交易平台上高价出售，而黑产成本仅包括设备、电费、人工和个人信息等，利润可谓“暴利”。

图片来自百度搜索

iii) 刷机活动奖励：

在某些情况下，游戏内活动会设置丰厚的奖励，可能是稀有道具，也可能是实物奖励。黑客使用脚本行为与普通玩家竞争这些奖励，然后将其货币化。另外，如果游戏存在漏洞或者Bug，黑品也会利用这些漏洞大规模获利。

iv) 功率调平和肝脏替代：

正如前面提到的，一些玩家会使用脚本来代表他们在游戏中“工作”或“搬砖”。一些黑产业从业者还会提供代练、换肝等服务，进一步加速游戏生命周期的过早透支。

图片来自百度搜索

v) 充值：

一些不法组织提供充值服务，帮助玩家低价充值以获得高价值的游戏礼包。例如充值100元即可获得价值648元的礼包。这些不法组织利用平台的退款机制、礼品卡、汇率差、代金券等手段牟利。

利用退款机制进行充值，会导致厂商并未实际收到资金，而是提供等量的游戏服务，导致游戏厂商蒙受损失。礼品卡、代金券的使用可能涉及黑制作者通过刷脚本或非法渠道获取的非法卡密，进而导致玩家账号被平台处罚的风险。

一般来说，充值方案降低了游戏厂商的利润。同时，由于各种黑色风险，也给玩家自身造成损失和影响。

图片来自百度搜索

vi) 恶意攻击：

黑人行为者有时会直接攻击游戏本身，从而严重影响游戏的运营，并威胁公司支付赎金才能停止攻击。例如，曾经有一款名为《如魔江湖》的游戏在上线初期就遭受了黑客的DDoS攻击，导致公司服务器瘫痪。黑客通过邮件直接勒索游戏厂商，迫使其购买第三方防护技术。足足花费了九十万的时间，才成功抵挡住了攻击。

图片来自百度搜索

vii) 有针对性的招募：

一些黑组织会寻找并联系核心玩家，并向他们发送有针对性的内容，以吸引这些玩家加入他们的游戏。虽然这种行为属于内容风险的范畴，但有些内容很难准确识别。比如，为了赢得核心玩家的青睐，黑品会采取长期策略。他们会从谈论不相关的话题开始，逐渐建立关系，然后提到其他游戏，比如：“这个游戏不好玩，我们玩XXX吧。”在这种情况下，依靠内容风险拦截可能已经为时已晚。

因此，针对此类风险，应从行为风险角度进行防控，识别经常接触核心玩家的黑账户。

3）竞争产品行为风险：

竞品行为风险是指游戏行业友商进行的不正当竞争行为。最常见的一种是爬虫抓取数据的行为。友好商家利用脚本技术获取厂商的游戏服务器、用户信息和社区内容。这些行为构成不正当竞争，给生产企业带来损失。

4）内部行为风险：

内部行为风险是指游戏行业内部成员产生的风险，如借用内部账号、出售内部账号、向普通玩家出售游戏资源等。这些行为都给厂家带来了损失。

3.账户风险：

账户风险涉及游戏行业用户账户安全相关问题，主要是黑恶势力对用户账户以及用户之间的攻击。当用户的账户信息、密码等泄露或被盗时，账户可能被他人盗用，从而对原账户所有者的利益造成损害。例如，账户盗贼可能利用原账户所有者的账户发布违法内容、实施违法犯罪行为，或者直接出售被盗账户。

博彩业风险特征

根据上一篇文章《浅谈风险控制体系建设》的总结，业务风险都具有以下特点：

1、层出不穷：风险无法根除，利益驱动下黑色产品层出不穷。

2、高强度对抗：风险防控是一场持续的技术对抗，双方技术能力呈螺旋式上升。

3、成本高、效率低：风控成本高，但性价比低，不能直接带来效益。

4、人力支持：现阶段基于AI防控规则的召回率和准确率很难达到平衡，因此仍然需要一定程度的人力支持。

除了这些特点外，游戏行业的风险还具有以下特点：

1、实时性要求高：

游戏行业相关风险防控大多实时性要求较高。

游戏内的实时内容，如文字、语音聊天等占据了很大的比例。为了保证良好的玩家体验，这些内容需要及时发布，避免给玩家带来不良影响。此外，行为风险的防控也是游戏行业实时性要求较高的任务。如果球员或黑人演员的违规行为不能及时制止，将会给比赛带来更大的负面影响。

2、风险对抗强度极高：

在游戏行业，赚钱的方式有很多，比如刷号、广告、充值、卖金手指等。这些盈利机会吸引了黑人制作人，让他们在游戏行业拥有了更大的空间。黑产技术不断升级，挑战游戏厂商的反黑产能力。由于违法产品的专业性、专业性和利益链复杂性，游戏厂商往往难以全面防控这些违法产品的风险。

例如，作弊是游戏中无法完全禁止的现象，几乎每个游戏都会出现。为了应对作弊问题，一些游戏厂商不仅需要提高风控技术，还需要诉诸法律手段。以《永劫》两周年发布会为例。游戏曾公开展示与外挂制作团队斗智斗勇的成果，成功拿下数百个外挂制作窝点，抓获犯罪嫌疑人40余名。

图片来自百度搜索

3、标准化难度大：

在博彩行业，建立规范的风险防控体系并不容易。与其他行业相比，游戏行业面临以下挑战：

1）游戏类型多样化：游戏可以分为多种类型，如RPG、ACT、AVG、AAG、SLG、SRPG、RTS、FTG等，并且这些类型可以相互组合形成新的类别。随着游戏产业的发展，新的游戏类型将会不断涌现。不同类型的游戏强调不同的方面。例如，一些强调团队协作的游戏（如MOBA、FPS）需要提供实时语音和文字聊天功能，这就要求风险防控系统能够实时响应风险。一些强调社交互动的游戏（例如角色扮演游戏）需要审查自定义服装以避免有风险的内容。比如《动物森友会》这款游戏的定制化程度很高，但这也让一些团体可以随意发布涉及政治、色情内容的非法内容。在国内运营的情况下，这会对游戏的运营产生影响。

图片来自微博

2）游戏功能差异：即使是同一类型的游戏，具体功能也会有所不同。例如，一些角色扮演游戏可能强调开放世界探索游戏玩法，而其他角色扮演游戏可能强调关卡地牢式战斗。对于不同玩法的游戏，黑品的行为规则也会有所不同，所以我们的黑品识别特征规则需要定制。

3）游戏内容差异：不同游戏之间存在内容差异。有些游戏以军事战争为主题，而另一些则以剑与魔法为主题。在内容防控方面，普遍屏蔽涉及党政军的内容，防止玩家发布相关违法内容。但如果军事战争题材游戏中也限制军事相关内容，那么玩家发布一些正常的战斗通讯内容，比如“战争”、“军队”等，也可能会被内容防控规则误判，这将是极其严重的。土地影响着玩家的游戏体验。因此，需要根据游戏类型定制内容防控规则。

4）游戏运营策略差异：每个游戏对风控策略的要求不同，受游戏特性、防控成本、地区政策等因素影响。有些游戏过于注重单人体验，因此外挂、脚本对游戏影响不大，对这些内容的防控也不需要花太多功夫。一些厂商考虑到风险内容“性价比高”且人力有限，可能会允许一定数量的中低风险内容存在，以避免人力过度消耗。如果游戏在海外发行，相关内容防控要求可能会相对较低，防控严格程度可以相应调整。因此，厂商需要针对不同的游戏采取不同的策略，以实现“以最小的成本达到预期的风险防控建设”。

上述差异增加了标准化风险防控的难度，因此不同游戏之间需要考虑定制化解决方案：

1）根据不同游戏的类型、功能和内容，需要综合考虑可能存在的风险类型，并推出相应的防控技术方案。

2）根据不同的运营策略要求，需要定制不同的防控策略，包括防控内容类型、识别严格程度、处罚方案等。

游戏行业风控功能建设

上一篇文章《浅谈风控体系建设》总结了风险防控体系的业务模块可以分为“风险防范”、“信息采集”、“风险识别”和“风险防范”四个环节。风险应对”。这四个环节这个环节也可以应用于游戏行业风控功能模块的建设。

1、风险防范：

游戏行业针对内容风险、行为风险和账户风险的防范措施基本相同，主要包括用户教育、规则限制、人机验证和身份验证等。

1）用户教育：针对游戏内的风险，风控团队可以会同运营部门制定适用于游戏的风险防控规则。同时，运营团队可以在玩家可见的位置发布公告，教育用户并明确违规行为可能受到的处罚。

2）规则限制：为了应对游戏中产生的内容风险、行为风险和账户风险，游戏厂商可以制定一些限制性规则，对可能产生风险的环节进行限制。针对内容风险，可以限制发布频率。例如，可以在实时聊天频道中设置文本发布频率限制，例如每1到2秒一次，让玩家可以持续聊天，但限制机器的高频刷屏行为。您可以在社区发帖设置几分钟的限制，避免无意义的泛滥对社区生态造成影响。

对于行为风险，可以限制高风险行为入口的操作频率。例如，厂商可以限制一台设备一天只能注册2个账号，以增加黑品的成本（黑品需要购买设备储备来绕过这个限制）。

针对账户风险，可以实施远程登录限制，例如拦截短时间内不同城市的账户登录，防止潜在的账户被盗。

3）人机验证/身份验证：对于被标记为高风险用户的用户，可以要求用户进行人机验证或身份验证。一方面，这可以限制机器行为，另一方面，也可以增加黑品的违规成本。

2、信息收集：

游戏行业的信息收集可分为基础数据收集和风险情报收集。

1）基础数据收集：

风控系统需要提供一整套基础信息采集解决方案，将相关数据上报至各内容生成系统、各行为生成系统、各账户相关系统，作为风险识别和应对的依据。但信息收集也存在一定的挑战：

i) 数据收集不完整：

为确保风险识别和应对的有效性，信息收集需要全面。但在与各系统对接的实际开发过程中，由于两个部门意识的错位，以及游戏内外涉及内容、行为、账号风险的地点众多，可能会出现信息遗漏的情况。因此，负责风控系统的中台部门也需要设计一个验收环节，让熟悉这些系统的专业人员来检查信息采集系统是否全面。

ii) 非法产品的收集和欺骗：

技术精湛的黑分子可能会利用各种手段绕过信息采集，或者伪造虚假信息进行举报，导致我们难以准确识别和应对风险。因此，风控系统的信息采集模块需要考虑如何应对这些风险。我们需要在客户端层面拦截绕过报告或数据篡改的数据，并在服务器层面识别和过滤绕过和篡改的数据。例如，设备指纹技术可以帮助我们识别非法行为者对数据的篡改。

2）风险情报收集：

除了基础信息收集外，还需要收集各业务线的内部风险情报，例如用户报告、其他业务线的反馈等。这些风险情报方法可以挖掘一些意想不到的风险内容，以便及时应对视觉盲区的意外风险。例如，玩家之间的作弊往往很难通过规则识别来检测。我们需要依靠受作弊影响的玩家的反馈来及时做出回应，并增强我们识别此类作弊的能力。

同时，我们可以收集外部风险情报，如实时敏感热点、竞品动态、破解新技术等，及时补充我们的风险识别能力。

3、风险识别：

1）内容风险识别：

内容风险识别通常采用敏感内容库、风险识别AI和人工审核三种方式。根据不同的运营策略，我们将内容分为“高风险”、“中风险”、“低风险”或“无风险”，以帮助我们决定如何处理。对于实时性要求较高的内容（比如玩家实时聊天），我们可以利用敏感内容库和风险识别AI提前识别，提前应对。为了降低误报率，应重点关注高风险或高准确率的识别内容。另外，还可以通过人工审核的方式进行补充审核，防止遗漏。对于实时需求较低的内容，我们可以通过敏感内容库的三个步骤，风险标识AI和手动审查在发布之前充分识别内容，以确保内容的安全性。

2）行为/帐户风险标识：

行为/帐户风险标识通常使用风险规则库，手动审查和黑名单。我们提取了风险行为/帐户的功能，然后总结了风险识别规则，手动审查判断基础，黑名单清单等，并将行为/帐户风险分为“高风险”，“中等风险”和“低风险“或“无风险”水平，用于协助判断如何应对风险。例如，对于非法产品的脚本行为，我们可以通过获取脚本编号来确定它们的共同点。假设脚本字符通常在固定时间节点下使用ABCD函数并升级到1234级，那么我们可以建立一个规则来描述这些常见行为并识别高风险的脚本字符以进行后续惩罚。

无论是确定内容风险，行为风险还是帐户风险，我们的识别方法都可能存在遗漏或错误判断的问题。因此，在正式启动标识策略配置之前，需要安排灰度链接以观察效果并确定是否在线上。我们可以使用召回和精度作为指标来衡量并帮助确定是否上网。上网后，我们还需要根据实际的预防和控制效果调整识别功能，以确保召回率和准确率在可接受的业务范围内。

例如，我们使用敏感内容库来识别游戏中出现的新广告文本，风险控制人员采用常规规则配置方法。如果这种正则表达不好，它可能会意外杀死普通玩家的聊天演讲。因此，在正式拦截玩家的演讲之前，我们需要观察常规规则的准确性和召回率。如果和未接来电在可接受的限制范围内，则可以安排在线规则。

4。风险反应：

1）内容风险响应：

游戏行业对危险内容的反应主要包括禁止出版，阻止或替换，使其仅对出版商可见以及强迫删除。

2）行为风险反应：

游戏行业中风险行为的响应计划主要包括行为禁令，连续禁令，警告提示和人机/身份验证。

此外，对于由非游戏主观行为引起的风险，例如超载能力，容量扩张计划，高防御计划，当前的限制计划和服务暂停计划可用于处理它们。

3）帐户风险回应：

对游戏行业中风险行为的响应计划主要包括帐户冻结和安全验证。

以上是一些常见的风险响应方法。但是，在确定何时应用哪种响应时，需要根据风险控制策略做出决策。我们可以根据不同的风险类型，风险水平，识别准确性和操作要求来自定义相应的风险控制策略，以实现“预期的预防风险预防和控制构建”。

为了管理和控制特定游戏采用的风险响应策略并实时跟踪这些策略的效果和性能，系统可以建立“配置中心”。配置中心可以提供高度的可配置性，可用于决定采用哪种风险响应策略并及时进行针对性的调整。

制定策略配置时，您可以遵循以下原则：

i）对于已确定的风险内容，首先考虑采用有效且对用户影响较小的响应计划，然后考虑其他解决方案。

ii）如果风险识别的准确性不够高，则应优先考虑拦截高风险内容/行为/帐户并采用对用户影响较小的对策，然后考虑其他选项。

例如，对于具有高实时要求的内容（例如文本聊天渠道），当敏感内容库和风险标识AI确定风险内容时，可以采用禁止出版，阻止或替换等措施来实现有效的拦截和一种对用户体验影响较小的解决方案。

但是，如果识别规则太严格，则可能会导致玩家不满意。例如，玩家可以多次编辑文本，但无法发布或遇到异常情况。在这种情况下，我们需要以有针对性的方式调整响应策略，仅处理高准确性或高风险内容，并首先发布其他内容以确保用户体验，并最终通过手动筛选进行处理。

总结

以上内容是对游戏行业的风险和风险控制系统的建设的摘要和理解。欢迎进一步的添加。

通常，游戏行业的风险的特点是高实时性质，高度对抗和标准化难度高。建立相关风险控制功能时，有必要遵循“预防风险”，“信息收集”，“风险识别”和“风险响应”的框架，并针对风险类型，风险水平，识别准确性和操作要求每种游戏定制策略配置都是为了实现预期的预防风险和控制构建，每场游戏的最低成本。