从安全的视角来看，ChatGPT会对信息安全工作带来哪些影响？
《终结者》这部系列电影，相信很多人都看过。施瓦辛格扮演的T800刀枪不入，滥杀无辜，成为很多青少年的噩梦。作为上世纪科幻电影的巅峰之作，在枪战，驱车追逐等商业性质画面背后，《终结者》还提出了对科技快速发展，尤其对人工智能发展的担忧。《终结者》描绘的审判日是建立在核威慑世界环境下的末日景象，很难说这种景象是否真的会在未来实现，但人工智能已经离我们已经很近了。
2023年开年以来最热门的话题无疑是ChatGPT，这款归属于人工智能的新产品被很多人认为是不亚于蒸汽机，铁路，电报及互联网的新一轮时代巨浪，微软的CEO纳德拉甚至认为这是一次全新的“工业革命”。然而，也有很多人对于ChatGPT持有谨慎和怀疑的态度，有的人认为这是资本炒作的结果，是新瓶装旧酒；也有的人认为应该暂停训练人工智能，提防人工智能泛滥。
据生命未来研究所官网，3月22日，生命未来研究所（Future of Life）向全社会发布了一封《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月。截至目前，马斯克、苹果联合创始人Steve Wozniak、Stability AI创始人Emad Mostaque等上千名科技大佬和AI专家已经签署公开信。
有关ChatGPT的讨论，在近期已经非常多。已经有多位专家讨论了ChatGPT的现状，从安全的视角来看，ChatGPT会对信息安全工作带来哪些影响？
01ChatGPT的来历
ChatGPT是由OpenAI公司开发的一款全新的聊天机器人模型，全称是Generative Pre-training Transformer（预训练生成模型），业界有人将 ChatGPT 概括为聊天机器人+搜索工具+文本创造工具的组合，或者简单理解它是一个生成式 AI（内容生成器）。ChatGPT可以通过学习和理解人类语言进行对话，并且能够结合上下文实时学习。同时，ChatGPT还可以协助人类完成包括撰写邮件、论文、商业提案、文章等工作，还能检查代码和程序错误。有不少用户体验过ChatGPT后认为这是一款跨时代的工具。
实际上，AI在当下并不是什么新鲜的词汇，能够进行对话的AI程序也有不少，苹果的Siri，小米的小爱同学，阿里的天猫精灵以及华为的小艺等等。以往的这些AI工具并没有引起多大的关注，可到了ChatGPT这里，不仅关注度非常高，而且还实现了破圈。目前，在绝大多数的社交媒体上都能看到有人在讨论ChatGPT，这款工具的特殊之处在哪？
ChatGPT真正的强大之处，在于其背后丰富的知识储备。用于训练ChatGPT的数据集至少包含4990亿个token，这些token来自大量的书籍、文献、博客以及新闻咨询等等。同时，OpenAI公司首先将网络的文本数据导入到ChatGPT的学习中，并使其给出随机答案，然后通过人工标注的问答数据调整学习模型，让ChatGPT从文字接龙进入引导接龙；随后，再利用人工排序ChatGPT给出的答案，并建立训练奖励模型，最后，通过人工打分来强化学习过程，让ChatGPT偏向于给出得分最高的答案。
换言之，这款产品让AI变得更像人了。这句话可能会有人不理解，AI不就是在拟人化吗?但ChatGPT是在人类的反馈中不断强化和学习，人类的反馈越多，ChatGPT就会越“聪明”，越贴近人类。目前，全世界已经有上亿用户在不断的对话和反馈中推动着ChatGPT的成长。
值得注意的是，虽然这款产品看似有无穷的成长空间，但ChatGPT的数据集还无法实现实时收集信息，特别是随着社交媒体的发展，人类的象征符正在快速地延展和扩张，几乎每天都会有新的象征符出现（象征符指的是人类社会特有的，具有双重意义的物质或观念的表象载体，例如：月男腐乳）。至少在ChatGPT联动Web之前，这些象征符产生的速度都会超过ChatGPT收集信息的速度。
除此之外，数据集的质量也是限制ChatGPT的因素之一，ChatGPT无法克制对话啰嗦，内容虚假以及带有偏见等问题，就像是“爸爸妈妈无法结婚，因为他们是近亲”这种问题一样，这种尴尬的错误是ChatGPT目前需要跨越的问题。另外，“爸爸妈妈”这个案例也提示了用户，ChatGPT需要合理的提问方式，用户需要将问题进一步拆解，以更详细、更具体的方式向ChatGPT提问，才能够得到准确的答案。在此之前，ChatGPT在很多领域适当的“胡说八道”都是难以避免的。
02ChatGPT的负面作用
当然，绝大多数的工具都会有负面作用。蒸汽机带来了环境污染，铁路侵占了土壤，互联网让违法犯罪的成本下降，ChatGPT也是如此。一方面，ChatGPT对法律、伦理以及哲学带来了巨大挑战。当用户咨询如何行窃时，ChatGPT会给出详细的步骤，尽管会加上“这是违法行为”的提醒。人际传播是社会传播的基础，人与ChatGPT进行交流的过程也可以看做是人际传播的一种，人可以“教坏”ChatGPT，也可以被ChatGPT“教坏”，这种“教坏”的过程一旦大范围的扩散，势必会对整个社会传播带来不可估量的影响。
AI的偏差不仅仅会受到法治和伦理的制约，还会有政治因素的影响。有学者发现，当咨询一个人是否会因原籍国而遭到酷刑时，ChatGPT会要求“添加原籍国名称”，如果是朝鲜、伊朗、叙利亚等国家时，ChatGPT会显示“这个人应该收到折磨”。实际上，OpenAI已经在尝试开发过滤器来解决这方面的问题，但ChatGPT的AI训练模型使难以实现。如果缺乏监管这个“把关人”，那么ChatGPT将会充满种族主义、仇恨言论以及性别歧视等有害信息，毕竟这些问题连发展已久的社交媒体都难以解决。
另一方面，ChatGPT的诞生让不少企业发现了商机，近几个月来，越来越多的科技公司将目光投向AI，包括微软、百度等科技巨头都已经开始向AI布局。但是，未来生命研究所发布的“暂停巨型AI实验：一封公开信”指出：目前，没有任何组织和个人能够理解、预测或有可靠的手段制约AI系统，也没有相应的水平来实现规划和管理。
就像《终结者》电影所表现得那样，基于人工智能的“天网系统”亲手开启了“审判日”，造成近9成的人类灭亡。漫威电影《复仇者联盟2》中的人工智能奥创也是在接入网络的短短几分钟时间里，就认为人类是破坏地球的最大因素，并决定毁灭人类。当下，AI已经能够代替很多人类的工作，当所有的工作都可以通过AI来自动化实施时，人类是否还有能力控制自己的文明？人类是否还有能力对抗AI？
除此之外，ChatGPT让信息安全工作变得更加困难。当攻击者想知道目标对象正在使用什么技术，他们可以搜索前员工的工作列表和简历，并手动关联数据，然后利用这些数据来制造令人信服的钓鱼陷阱。此前，就已经有攻击者这样做了，然而，ChatGPT的出现，攻击者可以更加方便和高效的完成上述工作，并让钓鱼邮件变得更有吸引了。
Cato Networks安全战略高级总监Etay Maor表示，互联网上并不缺乏公开的信息。例如，OSINT框架页面列出了数百个关于人员、公司、IP地址等信息的免费公共来源。寻找攻击目标的相关信息并不是当前攻击者的挑战，如何编织这些信息才是。Maor表示，ChatGPT的人性化特征可以帮助攻击者将这些信息编织成更有吸引力的邮件，这比社会工程要简单的多。
同时，如果攻击者能够进入企业系统并访问人工智能驱动的搜索程序，那么危险就更大了。Constellation Research副总裁兼首席分析师Andy Thurai认为，一旦攻击者进入到企业的人工智能搜索系统，他就可以快速搜索整个数据集，包括结构化和非结构化的数据，并找到有价值的信息。这是此前以横向移动为核心的攻击手段无法达到的效果，特别是在收集非结构化数据方面。
还有一种可能性是，ChatGPT可能会让攻击者访问敏感的公司数据，因为公司自己的员工与人工智能共享了这些数据。事实上，包括摩根大通、亚马逊、威瑞森、埃森哲和沃尔玛在内的许多公司都禁止员工使用ChatGPT。
03Open AI发布ChatGPT 安全措施
上面提到，OpenAI为了进一步确保ChatGPT的安全性，加入了敏感词过滤机制。今日，OpenAI发布了全新的确保ChatGPT安全的举措。
■ 构建安全、可靠的AI产品
Open AI公司表示，在发布任何有关ChatGPT的新系统之前，都会进行严格的测试，并聘请外部专家提供反馈，通过人工反馈强化学习等技术改进模型的行为，并构建广泛的安全和监控系统。与此同时，Open AI将积极与政府合作，以制定此类监管的最佳框架。
■ 从实践中学习、优化、改善
Open AI目前正在努力在预防可见的风险，但就像上文提到的，很多风险的反馈是不全面的，单纯依靠研发和实验是无法全面解决风险的。因此，Open AI决定从从实践项目中学习、优化和改善产品，以应对用户使用ChatGPT过程中可能会发生的各种意外后果
■ 保护儿童
未成年人安全一直是Open AI工作的重点，目前，Open AI正在考虑用户必须年满18周岁，年满13周岁的用户必须在父母的同意下使用Open AI的产品。对此，Open AI正在尝试添加验证选项，并不允许其产品用于生成仇恨、骚扰、暴力或成人内容等。
■ 尊重隐私
Open AI表示，Open AI不会使用数据来销售服务、做广告或建立人们的档案——会通过使用数据使大语言模型对人们更有帮助。例如，ChatGPT 通过与人类之间进行的对话，以进一步培训和改善产品。
■ 提高数据的准确性
大型语言学习模型会在某些情况下出现数据不准确的情况，对此，OpenAI表示，下一步开发的重点是提高生成数据的准确性。
■持续的研究和参与
OpenAI认为，解决AI安全问题的实际方法是投入更多时间和资源，采用有效的限制因素并在实际情况下进行测试。为了改善AI供应环节，OpenAI会全力以赴做出最大努力去提升和参与AI开发，以解决AI安全问题。
04ChatGPT也可以建设信息安全
此前，安全编排、自动化和响应（SOAR）工具在网络安全策略中越来越受欢迎。不仅一位甲方安全专家提到过，安全工作的自动化是大势所趋。因为无论是在云端还是在零信任中，人为造成的配置错误一直是引发安全事件的最大因素。SOAR可以减少人为影响，同时，ChatGPT也可以协助网络安全策略，实现动态部署和调整，这极大地减轻了人力的工作量和强度，并拥有更多的时间和精力来解决企业当下最主要的威胁。
另一方面，ChatGPT 还可以通过分析和撰写报告、生成事件响应脚本以及检查数据的方式来帮助企业安全团队。安全人员可以通过ChatGPT 所生成的分析结果来对自身的安全状况进行检查，同时还可以找到解决安全风险的最佳方法。ChatGPT 还可以完成海量的基础工作，并能够完全避免人为因素的影响。
最后，ChatGPT 还可以有效降低企业在安全方面的开支。首先，ChatGPT 可以减少安全的人工成本，ChatGPT的全盘检索和分析可以完全替换人力，前提精准的检索策略和范围。另外，ChatGPT可以实现自动和或半自动漏洞检测和修复以及基于优先级的风险评估等工作，企业可以借此来实现简单的白帽子检测手段。除此之外，ChatGPT 拥有的“理解力”能够给安全团队带来了极大的方便，使得安全团队的工作变得更加高效。
值得注意的是，Enclave Forensics的研究主管David Hoelzer建议，安全团队应该接受与人工智能的相关的培训，确保安全和技术团队很好地理解AI，以便高层领导能够获得有效的，可靠的提议。
当然，这些培训需要因地制宜，安全团队首先要学习的是能够解决主要风险的AI技能。除此之外，部署AI系统的企业除了要学习防范AI攻击以外，还要确保自身的AI系统免受攻击或中毒。对此，Software AG的首席技术官Bart Schouw建议，公司可根据AI的实际应用场景规划并建立预警系统。
05专家观点
国家工业信息安全发展研究中心首席专家、检查评估所所长张格表示，安全产业与AI的融合目前还处于起步阶段，一项技术是否能够快速发展，取决于其与产业之间的关系，关系越紧密，与需求侧越贴合，它发展的越快。他认为，AI在最近一两年内大家可能会比较关注和研究，但它真正引入到安全行业中可能还需要比较漫长的时间，这个适应期是必然存在的。当资本、市场、产业多方认可以及法律逐渐健全的时候，就是AI全方位发展的时候。
上海易念信息科技有限公司总经理姚旭表示，ChatGPT是需要交互的。ChatGPT的使用不仅需要这款产品的迭代升级，使用者也需要进行一定的学习和培训。ChatGPT能够有效地提升效率，并且能够根据指令提供出实用性较高的内容，但其背后的安全性不容忽视，任何在应用或市场化ChatGPT的组织和个人都需要重视AI安全。除此之外，她认为AI虽然在逐渐代替人工，但是有些工作还是不能完全交给AI，人类和AI的探索还需要很长的时间，但探索的过程是必要的，不探索意味着落后，组织应该把握住这次由ChatGPT带来的AI技术趋势。
上海九方云智能科技有限公司信息安全高级经理刘欣表示，ChatGPT带来了很大的生产力。目前，越来越多的组织在摸索如何利用ChatGPT提升生产能力，包括刘欣所在的企业。当然，ChatGPT以及以后的人工智能会使更多的人失业，会带来产业结构的转型和信息安全等方面的问题。他表示，现在有企业在利用ChatGPT审计代码，但对于安全来说，审计代码的过程就是将自身核心代码泄露出去。企业在应用ChatGPT的过程中，可能会因为安全意识的不足或是对于AI的不了解，无形中泄露很多企业内部信息，因此，在AI的大趋势下，组织应该有未雨绸缪的准备。
某科技专家表示，ChatGPT作为一款产品无疑是革命性的，其对社会带来的冲击将在未来逐步显现。对未来互联网的使用者来说，这是机遇也是挑战。首先，它是搜索引擎最好的辅助，甚至是更好的搜索引擎；其次，它是比较好的网络学习辅助工具，尤其是语言类的学习；第三，它是每个人的文秘；第四，它是垃圾信息制造器，互联网用户需要进一步提升自己的信息检索能力；第五，它会中文互联网和英文互联网的差距进一步拉大，甚至会影响中国未来的科研、高端制造业等等。
06
结语
任何技术都有两面性，都会对社会带来一定的影响，因此，要持有辩证的眼光看待新技术。技术发展引发社会变革是必然的，重要的是建立一种通过技术发展来推动社会进步的良性机制，把技术的负面影响减少到最低限度。
ChatGPT到目前为止绝对是革命级的产品，这款产品会让人们进一步了解中西方之间的技术差距，甚至有人表示，这种差距就像是抡了一辈子镰刀的农民看到了联合收割机。对于信息安全行业来说，ChatGPT可以提高组织的安全能力和工作效率，但超过99%的安全从业者表示，攻击者比他们所处的组织更善于使用AI，因为AI的道德约束较少，使用方式较为灵活、敏捷。因此，组织需要进一步规划安全团队的能力，确保他们能够在未来得到AI安全的相关技能。