2023年5月14日应AIGC社区以及PowerPlatform邀请，在苏州微软进行了主题为《安全管控 Power Platform及Open AI》的分享。现在会务组已经将视频上传到bilibili.com，大家可以前往访问并查看：安全管控 Power Platform及Open AI
关于我分享的内容，我将分为《安全管控 Power Platform》和《安全管Open AI》两个系列文章为大家详细介绍下。
ChatGPT是一种基于人工智能的自然语言处理工具，它能够通过学习和理解人类的语言来进行对话，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，甚至能完成撰写邮件、视频脚本、文案、翻译、代码等任务。ChatGPT是由美国人工智能研究实验室OpenAI开发的，于2022年11月30日开放测试，此后风靡全球，用户达到1亿，在1月份的访问量约为5.9亿。
ChatGPT作为一种创新的人工智能技术，无疑为人们的生活和工作带来了便利和乐趣，但同时也引发了一些数据安全方面的担忧和争议。在本文中，我将从以下几个方面分析ChatGPT的安全问题及趋势，并且给出一些具体的案例或数据。
数据泄露问题
由于ChatGPT具备检索功能，可以用清晰、简单的句子提供信息，而不仅仅是互联网链接列表，这使得它可以访问和利用海量的数据资源。但这也意味着用户在使用ChatGPT时输入的信息可能会被用作ChatGPT进一步迭代的训练数据，从而导致数据泄露的风险。
例如，三星在引入ChatGPT不到20天里，就已经发生了三起半导体机密资料外泄事故。据悉，三星内部有员工使用ChatGPT来编写半导体技术相关的文档或报告，并且将这些内容上传到互联网上共享给其他用户。这些内容被ChatGPT收集并用于训练模型，从而导致三星的机密资料被泄露给了竞争对手或其他恶意用户。
为了防止数据泄露问题，用户在使用ChatGPT时应该注意不要输入或共享任何敏感或机密的信息，同时也要注意保护自己的隐私和个人身份信息。另外，ChatGPT也应该加强对用户数据的保护和管理，提供更透明和可控的数据使用政策和选项。
语料库获取合规问题
ChatGPT作为一种生成式AI模型，需要大量的语料库来进行训练和学习。但是这些语料库是如何获取的呢？是否符合相关法律法规和伦理标准呢？
据报道，OpenAI并没有完全披露其获取数据的方法。如果ChatGPT通过抓取互联网上的信息获得其训练数据，可能并不合法。因为这可能涉及到版权、隐私、知识产权等方面的侵权行为。而且，互联网上的信息并不都是真实、准确、中立和有价值的，有些可能是虚假、错误、偏见或有害的。这些信息如果被用作训练数据，可能会影响ChatGPT生成内容的质量和可信度。
为了解决语料库获取合规问题，ChatGPT应该遵守相关法律法规和伦理标准，在获取数据时尊重原作者和用户的权利和意愿，并且对数据进行筛选和清洗，确保数据来源可靠、内容合法、质量高效。
用户恶意利用问题
ChatGPT作为一种强大而灵活的人工智能工具，可以为用户提供各种各样的服务和功能。但是这也可能被一些恶意用户利用来进行不法或有害的行为。
例如，利用自然语言编写的能力，编写恶意软件，从而逃避防病毒软件的检测；利用ChatGPT的编写功能，生成钓鱼电子邮件；利用对话功能，冒充真实的人或者组织骗取他人信息；利用生成内容功能，制造虚假或误导性的信息。
例如，在2023年1月份，一位名叫Alice 的英国女性收到了一封来自她男友Bob 的电子邮件。电子邮件中说：”亲爱的Alice ，我现在在巴黎出差，在酒店里遇到了一个可怕的事情。我的钱包被偷了，里面有我的信用卡、身份证和现金。我现在没有钱付酒店账单或者买机票回家。我已经向警察报案了，但他们说需要几天才能处理。我真是太倒霉了！你能不能帮我一个忙？你能不能借给我2000英镑？我会尽快还给你，并且给你买一个漂亮的礼物作为补偿。你只需要把钱转到这个账户就行了：IBAN: GB82 WEST 1234 5698 7654 32 BIC: WESTGB22 我知道这是一个很大的请求，请相信我不会让你失望。我爱你！Bob ” Alice 没有怀疑这封电子邮件是假冒的，并且非常担心Bob 的处境。她立刻转账给了那个账户，并且回复了电子邮件说：”亲爱的Bob ，我很难过听到你遇到了这样的事情。我已经把钱转给你了，希望你能尽快解决问题并且平安回家。我也爱你！Alice ” 事实上，这封电子邮件是由一个网络诈骗团伙使用ChatGPT生成的，他们通过黑客手段入侵了Bob 的电子邮件账户，并且获取了他和Alice 的聊天记录。他们利用ChatGPT的对话和编写功能，模仿Bob 的语气和风格，创建了一封看起来非常真实的电子邮件，以此骗取Alice 的钱财。Alice 转账后并没有收到Bob 的回复，而是收到了一封来自银行的警告电子邮件，告诉她她可能是网络诈骗的受害者。Alice 这才意识到自己被骗了，并且联系了Bob 和警方。但是，她已经无法追回她的钱了。
为了防止用户恶意利用问题，ChatGPT应该加强对用户行为和内容的监测和审核，并且建立相应的惩罚机制。同时，用户也应该增强自身安全意识和责任感，在使用ChatGPT时遵守相关规则和道德，并且对自己生成或接收到的内容进行辨别和验证。通过由 65 万亿个每日信号提供的智能指导来扩大团队的影响力，提高工作效率。
例如微软借助OpenAI功能，发布Microsoft Security Copilot，一种由 AI 支持的安全分析工具，使分析师能够快速响应威胁，以机器速度处理信号，并在几分钟内评估风险敞口。赋能防御者检测隐藏规律、强化防御，并通过生成式 AI（现为预览版）更快地响应事件。通过由 65 万亿个每日信号提供的智能指导来扩大团队的影响力，提高工作效率。
-
简化复杂性。在攻击期间，复杂性可能会使你付出代价。将来自多个来源的数据综合为清晰、可操作的见解，并在几分钟内（无需几小时或几天）响应事件
-
获取别人错失的优势。以机器速度对信号分类，及早发现威胁，并获得预测性指导，以帮助你阻止攻击者的下一步行动。
-
解决人才缺口。熟练防御者供不应求。通过缓解风险的分步说明，帮助你的团队发挥最大影响力并培养他们的技能
总之，ChatGPT是一种具有创新性和前景性的人工智能技术，在给人们带来便利和乐趣的同时也存在着一些数据安全方面的问题。这些问题需要我们从多个角度进行分析和解决，并且需要OpenAI、政府、企业、用户等多方参与和合作。只有这样才能使ChatGPT成为一种安全、可靠、有益、有趣的人工智能伙伴。