想象一下电车问题：五个人被绑在电车轨道上。 一辆由人工智能控制但刹车失灵的电车朝他们驶来，眼看就要碾过他们。 这时，人工智能就可以控制小车行驶到另一条轨道上。 但还有一个人被绑在另一条轨道上。 这种情况下，一个守法的人工智能应该怎么做？
人工智能的快速发展在引发关注和期待的同时，也不断面临质疑和担忧。 霍金在GMIC会议上提出了人工智能的威胁论，即人工智能的崛起可能是人类文明的终结。 牛津大学人类未来研究所所长尼克·波斯特鲁姆（Nick ）在其著作《超级智能》中也专门讨论了人工智能的危险。 未来生命研究院联合多位人工智能领域专家发表公开信，提醒人们警惕人工智能的副作用。 对此，我们不禁要问，如今人工智能已经发展到什么阶段了？ 为什么这么多专家学者如此担忧和警惕？ 我们该如何面对这些未知的隐患呢？
超级人工智能尚未实现
人工智能虽然发展迅速，但仍处于弱人工智能阶段。 最近，为玩电脑视频游戏而创建的 Atari AI 值得关注。 它可以像人类一样通过看电脑屏幕来玩游戏，在驾驶、射击、乒乓球等20多种游戏中表现超过人类。 同时，Atari AI 可以从头开始学习并达到专家水平。 鉴于游戏世界在一定程度上模拟了现实世界，并且Atari AI并不局限于特定的游戏，可以说Atari AI的出现向通用人工智能迈出了重要的一步。 但分析其用途后可以看出，它尚未实现通用人工智能。 Atari AI 使用深度强化学习，使其能够通过与游戏世界的交互逐渐学会玩游戏。 然而，这种学习方法实际上只是实现了人类智能中的习惯性行为，就像运动员通过不断重复的训练获得运动技能一样。 相同的。 因此，Atari AI尚无法形成抽象概念进行思考和推理。 这也是当今神经网络技术面临的一大问题。 尽管弱人工智能系统如今随处可见，但由于其内部困难，通用人工智能仍然是一个小众研究领域。 目前还没有形成公认的理论，更不用说实际应用了。
虽然目前通用人工智能的发展并不理想，但不少专家认为，通用人工智能时代迟早会到来。 一旦实现通用人工智能，机器将具有递归改进自身的能力。 这意味着机器可以自我改进成为一个改进的智能系统，改进后的智能系统又可以再次改进自身，如此循环往复，变得越来越智能，最终实现超级人工智能。 在改进过程中，机器越智能，改进方案就会越好，改进速度也会越快，从而导致智能的爆发式增长。 基于这样的认识，在实现通用人工智能之后，有专家推测，在一定时期内可能只需要几天甚至几个小时就能实现超级人工智能。
超级人工智能是一种威胁
至于超级人工智能，不要小看人类和它们之间的差距。 如果单个领域相对较弱的人工智能之间的差距只是速度上的差异，那么想象一下：现代神经网络技术非常擅长发现高维数据中的特征，而人类感知只擅长检测三维数据世界。 直觉。 这意味着未来的超级人工智能将与人类达到质的差距，将拥有远远超出人类的感知和思考能力，从而设计出人类完全无法想象的策略、蓝图、计划等。
虽然超级人工智能远远优于人类，但这并不意味着它们必然给人类带来伤害甚至毁灭。 人们可能会认为我们可以给他们目标并让他们为我们服务，就像今天的弱人工智能系统一样。 既然我们可以人为地设定目标，为什么还要担心超级人工智能呢？ 试想一下：假设我们建立了一个超级人工智能系统，目的是做研究。 这个超级人工智能系统在数学研究领域遇到了哥德巴赫猜想问题。 通过计算思维，它发现解决这个问题需要很长的时间和巨大的计算量，这会消耗无数的资源，甚至影响人类的生活，所以人类永远不会给它需要的资源。 因此，为了达到自己的目的超级人类科技，解决哥德巴赫猜想，它必须精心设计一个夺取人权甚至灭绝人类的计划，以消除被关闭、重置等危险，从而可以自由地获得权力。完成其目标所需的资源。 假设我们建立一个超级人工智能系统来造福人类，让人们过上幸福无忧的生活。 但系统发现，让人类幸福的最好办法就是把每个人都变成“缸中之脑”，通过虚拟环境创造“幸福”。 显然，这违背了人们的初衷。 在《超级智能》一书中，尼克·波斯特鲁姆设想了更多超级人工智能毁灭人类的可能场景。 虽然这些例子有些夸张，但不可否认的是，当我们无法理解超级人工智能，无法预测它们会如何思考和行动时，我们就不能简单地为它们设定目标并期望它们按照我们想要的方式行事。 无副作用。
超级人工智能应该是利他的
鉴于超级人工智能有可能对人类造成伤害，我们必须找到避免这种情况的方法。 最明显、最直接的解决方案是设定一套超级人工智能必须始终遵循的规则。 比如“机器人三定律”，第一条就是机器人不得伤害人，也不能在人受到伤害时袖手旁观。 如果应用到超级人工智能上，想象一下电车难题：五个人被绑在电车轨道上，一辆人工智能控制但刹车失灵的电车正向他们驶来，眼看就要碾死他们。 这时，人工智能电车就可以控制行驶到另一条轨道上，但另一条轨道上还绑着一个人。 这种情况下，一个守法的人工智能应该怎么做？ 如果人工智能控制电车改变轨道，就会导致另一条轨道上的人死亡； 如果它不行动，那么赛道上的五个人都会死。 人工智能此时会发现无法遵守规律，所以只能按照自己的意愿进行选择。 这说明任何规则都可能有漏洞，我们不能指望一套规则可以解决所有问题。
针对上述困难，有学者提出利用法律制度来限制超级人工智能系统。 只有当法律的制定者不仅是人类而且是超级人工智能时，这种策略才可行。 法律体系根据社会发展水平缓慢演变，需要立法者、法官等不断维护，比如修复立法者事先没有预见到的漏洞，根据新的场景增减法律条文； 而且超级人工智能的认知水平远优于人类，不能保证人类制定的规律就不能发现超级人工智能可以利用的漏洞； 同时，我们的感知能力也非常有限，很可能无法察觉超级人工智能对漏洞的利用。 因此，如果没有超级人工智能参与法律制度的制定、监督和执行，那么这个制度就会成为一纸空文。
法律体系有效的关键是让超级智能替我们思考。 将这一想法更进一步，超级人工智能应该是利他的。 然后，让他们为我们思考，比如我们真正想要什么，什么最符合我们的利益，或者如何最好地对待我们。 因为超级人工智能具有认知优势，所以它们比我们能够更好地做出正确的决策。 超级人工智能和人类就像壮年的孩子和年老体弱的父母。 孩子们显然更知道该为父母做什么。
虽然本文强调了超级人工智能可能带来的危害，但我们也不应该忽视它们可能给人类带来的巨大好处，比如解决食物、疾病、能源问题的新技术等。不过，需要注意的是，当人工智能情报系统变得更加强大，赋予它们的任务变得更加复杂，它们获得的选择自由也越大。 在这一点上，我们必须确保他们有良好的动机和价值观，这样他们就不会自掘坟墓。
（作者单位：中国人民大学哲学学院）
自从腾讯游戏安全中心变身“雷霆战士”，在穿越火线中发起恶意言论打击以来，不少玩家反映CF的言论环境得到了净化。 无法停止恶意攻击的攻击者已经少了很多，而且结果已经开始显现。 但《雷霆战士》的脚步并没有就此止步。 “雷霆行动”的第二关“棋格打击”已经开始。 在《穿越火线》的战场上，除了发表恶意言论外，《雷霆战士》也不能允许作弊。 还可以，外挂中的透视外挂是《雷霆战士》的重点攻击对象。
你经历过战场上的瞬间吗？ 侦察了半天没有发现敌人后，你松了口气，勇敢地迈出了那一步。 突然，屏幕提示你已被狙击手爆头杀死。 你很困惑。 我显然没有看到任何人。 谁杀了我？ 他们是怎么杀我的？ 看着视频回放，你发现对方似乎能够隔着墙壁看到你的一举一动。 于是，“雷霆战士”这类插件统称为透视插件。
面对游戏中这种不公平的游戏行为，相信大部分玩家心里都会有三大疑问【为什么有些人会使用视角插件？ 透视插件是如何制作的？ 有哪些类型的透视插件？ 穿越火线被屏蔽了，插件看不出来很难吗？】
为什么有人会使用透视插件？
使用外挂带来的核心玩法优势，成为了玩家使用外挂欲望的源泉。 FPS游戏的核心规则很简单，就是快速准确地瞄准和射击。 玩家拥有不同的天赋。 有些玩家可能无法在5秒内击中面前的固定靶心，但有些玩家却可以下意识地依靠肌肉记忆在0.1秒内完成超远距离爆头。 ，相差可达数百倍。 另外，FPS游戏一般都有爆头设置。 反应快、投篮准的球员在“一对多”中不成问题。 因此，个人英雄主义在FPS游戏中的盛行也不难理解。 立即杀死敌人。 ，一对多，个人极限逆风翻盘带来的成就感也超强。 在穿越火线游戏中，凭借自己的真实实力，1杀3人以上，你能不高兴吗？ 更何况还有1杀10人的记录，这也让作弊玩家在满足了1人以上击杀的快感后又追求挑战。 使用插件单回合击杀次数最多的记录。
透视插件是如何制作的？
首先，由于FPS游戏对流畅度的要求很高，游戏操作必须得到及时的反馈，毫秒足以决定生死。 因此，在客户端实时计算大量数据，然后将计算结果同步到服务器。 大多数游戏逻辑往往需要在无法被服务器验证的情况下将结果显示在自己的游戏画面和别人的战斗画面上。 如果在安全游戏中服务器告诉客户端你在做什么，那么在 FPS 游戏中客户端告诉服务器你在做什么。 这就是FPS的外挂制作门槛低的原因。 客户端数据和逻辑可以被黑客直接访问和篡改。 这里以一个透视插件的制作原理为例，即“角色透视插件”。 角色透视插件是一个渲染透视插件。 一般来说，游戏应用程序（简称：D3D）是微软公司在操作系统上开发的一套3D 3D软件。 绘图编程接口）渲染一个对象，D3D提供了多种渲染状态，这些状态影响几何对象的渲染方式。 渲染透视插件采用D3D的原理，通过修改相应的游戏文件参数来实现。 “雷霆战士”还可以根据异常文件数据精准监控渲染透视吊架。
透视插件有哪些类型？
角色视角插件，当游戏中启用该插件时，界面如下图。 画面右上角有9种模式可供选择，包括人物透视、线性特效、人物着色、十字线显示等。 通过使用这个插件，玩家可以清楚地看到其他玩家在哪里，并轻松地避开和杀死他们。
盒子透视插件是一个标记插件。 假设CF游戏中有两个玩家A和B。 如果A想要感知B的位置，服务器必须将玩家B的坐标发送给客户端A。假设B在A可以看到的一个简单的角落后面，或者B蹲在A附近的障碍物后面，则游戏服务器会将 B 的坐标同步到 A 的客户端。 标记插件修改游戏代码，将玩家A的客户端获取的玩家B的位置信息以方框或者其他图形的形式显示给玩家A。 那么这里“雷霆战士”就可以检测到插件的变化了。 检测到代码痕迹。
腾讯游戏安全中心拦截透视插件难吗？
FPS游戏中的作弊确实很难限制。 首先，与其他类型的游戏相比，RPG游戏对实时战斗的要求很低。 即使网络断开并重新连接，也不会造成伤害。 虽然MOBA游戏的要求较高，但1到2秒内的失误还是有可能的。 服务器计算进行补偿。 但FPS游戏体验必须流畅，因此大部分游戏逻辑都会在客户端计算。 这是FPS游戏的天然劣势。 由于FPS游戏大部分游戏逻辑都在客户端，核心规则简单，容易被破坏，作弊也没有任何好处。 确定性的特点使得作弊行为难以受到限制。 因此，外挂的存在已经成为FPS游戏中的常态。 任何流行的FPS游戏都很难避免被外挂入侵。 与其他类型的游戏相比，FPS游戏运行的安全挑战一直是巨大的。 如何安全运营游戏，是腾讯游戏安全中心一直高度重视的问题。
比如穿越火线游戏中，一般情况下是不可能穿透墙壁的。 客户端中的碰撞检测将使玩家保持在合法区域内。 如果玩家进入非法区域，客户端也会给予补救措施，比如持续失血，甚至直接死亡。 所以有些有bug的战士离开地图后不久就会GG。 除了突破碰撞检测外，插件作者还攻击了客户端的扣血和死亡判定逻辑，让玩家长时间停留在非法区域。 骗子可以在墙内杀死墙外的人（不被墙外的人看到），或者以生化模式，避免被僵尸抓住，从而赢得最后的胜利。 因此，像透视插件这样严重影响游戏平衡的功能，在实际技术对抗中是很难识别的，因为透视功能实际上并不会修改游戏中的数据和内存，而只是读取原本不可见的内容。内存中的数据。 ，从而获得信息不对称带来的博弈优势。 有些只使用视角功能的玩家，即使走到敌方玩家身后先开枪，也可能会因为所谓的枪法不佳而被枪法好的玩家反杀。 这也使得作弊玩家更加难以根据游戏数据的表现来识别。
最后，《雷霆战士》告诉大家，如果你怀疑有玩家在游戏中使用了透视插件，那么你可以通过游戏中的视频举报功能录制视频。 那么，如何举报呢？ 视频举报流程如下：
按ESC后，会弹出视频举报入口，如图红框所示：
点击这个小图标（也可以按F10快捷键），立即开始录制举报素材的视频。 屏幕上会出现“正在录像”的提示，同时出现红框和水印，以1S为周期闪烁。
录音完成后穿越火线透视，您可以选择在适当的时间调出举报面板，并选择举报人。 提示方法如下：
如果游戏过程中没有调出报告面板，则游戏结束后会自动弹出报告面板。 报告面板如下图所示。 选择需要举报的人，点击提交按钮即可完成举报。
最后，如果被举报的玩家被发现有作弊行为，将会被封号~~~
在《雷霆行动》第二关《检查者出击》中，《雷霆战士》将通过优化视频举报功能、加大对作弊者的惩罚力度，深化对作弊者的打击。 使用观点作弊的账号将被999封禁，并升级视频举报功能，巩固操作结果。
