数字化转型中的信息安全问题之GenAI安全与威胁防护

人工智能(AI)是一项新兴技术，代表了现代科技的发展和进步。AI的运用范围广泛，具有广阔的扩展潜力，对各行各业领域产生了深远的影响。在数字化转型的浪潮下，AI将成为企业成功的关键因素之一，并随着企业数字化转型的深入实践，人工智能(AI)帮助企业提升生产效率和生产力，改善客户体验和服务质量，帮助企业发现新的商机和提供更高级的安全保障。

新技术解决问题的同时会带来安全问题,这是新技术在安全方面的伴生效应这种伴生效应会产生两方面的安全问题:一是由于新技术的出现，其自身的脆弱性会导致新技术系统出现不稳定或者不安全的情况,这方面的问题是新技术的内生安全问题:另一方面是新技术的自身缺陷可能并不影响自身的运行，但这种缺陷却给其他领域带来问题和风险，这就是新技术的衍生安全问题。人们首先会去享用新技术带来的红利，之后才会注意到新技术伴随的种种网络安全问题，比如先有云计算，后有云计算安全。同样，人工智能作为一项新技术革命，既能赋能安全，又具有伴生安全问题。

人工智能(AI)是一项关键的革命性技术，它正在改变我们的世界。随着AI技术的快速发展，与数字化企业的全面实现，AI安全问题也日益凸显。AI安全应确保 AI系统在执行任务时能够遵守法律、伦理规范和道德和技术的合规。在解决 AI安全问题的过程中，应实现AI安全的透明度、责任化和可持续化的安全治理是企业发展的关键所在。

越来越多的企业引入GenAI应用，例如ChatGPT，Microsoft Copilot，安全也已成为当今企业在互联网世界的首要任务，高于一切，企业扩展的安全未来计划强调了全公司致力于让世界成为每个人更安全的地方。微软公司未了保护企业AI安全，基于Microsoft Defender 和 Microsoft Purview强大的安全能能力，推出一系列AI功能，可帮助组织在工作中保护和管理生成式 AI 应用程序。无论您的组织处于 AI 转型的哪个阶段，您都需要全面的安全控制，以在 AI 应用程序和数据的整个生命周期（开发、部署和运行时）中对其进行安全治理。

使用 Microsoft Defender for Cloud 发现新的 AI 攻击面，增强 AI 安全态势，并保护 AI 应用免受威胁。现在，安全团队可以使用跨 Microsoft Azure OpenAI 服务、Azure 机器学习和 Amazon Bedrock 等平台的 AI 安全态势管理功能来识别其整个 AI 基础设施，例如插件、SDK 和其他 AI 技术。

Defender for Cloud 是第一个在运行时为 AI 工作负载提供威胁防护的云原生应用程序保护平台 （CNAPP），为安全运营中心（SOC） 分析师提供新的检测，以针对恶意活动和活动威胁（例如越狱攻击、凭据盗窃和敏感数据泄露）发出警报。

Defender for Cloud 与 Microsoft Azure AI 服务（包括 Microsoft Azure AI 内容安全和 Azure OpenAI）集成，将持续监视 AI 应用程序的异常活动，关联调查结果，并使用支持证据丰富安全警报。

使用 Microsoft Purview 识别和缓解数据安全和数据合规性风险。让您的安全团队更深入地了解和了解正在使用的 AI 应用程序，以及如何帮助您在 AI 时代有效地保护数据。Microsoft Purview AI 中心现已推出预览版，可提供与 AI 应用程序共享的敏感数据、与 AI 应用交互的用户总数及其关联的风险级别等见解。

阻止敏感数据与生成式 AI 一起使用。

SaaS 应用程序的快速增长使得获得组织环境中使用的应用程序的可见性变得具有挑战性。SaaS 应用程序通常在 IT 部门不知情的情况下使用，这种现象称为影子 IT。此外，生成式 AI 应用程序的迅速采用带来了额外的安全复杂性和风险。组织比以往任何时候都更需要有效的应用安全解决方案，以确保员工只访问经批准且安全的应用。打击影子 IT 的一个关键方面是确保全面了解组织环境中使用的所有应用程序，其中包括识别员工使用的所有 SaaS 应用程序,这种广泛的应用发现对于提供 SaaS 环境的整体视图至关重要，以帮助安全团队有效地发现和控制影子 IT。这时企业可以使用 Microsoft Defender for Cloud Apps 全面了解 SaaS 应用，其提供强大的发现功能，帮助你了解组织中的所有SaaS应用（包括AI应用），评估其风险，并利用复杂的分析来增强整体SaaS安全性。

查找和分析正在使用的生成式 AI 应用，使用更新的风险评估对有风险的应用进行分类时自动阻止这些应用，无需手动控制允许和阻止的应用。了解其工作原理。

在后续的GenAI中，我将以Copilot for Microsoft 365以及企业数据安全防护为例详细介绍，企业如何更好的利用AI。