天天热门:Team8 CISO Village发布《CISO指南：GenAI风险管理》

Team8 CISO Village出品

无论是 ChatGPT、Midjourney、Copilot还是其他，Generative AI已经并将对所有行业和企业产生深远影响。

在此背景下，Team8与我们的CISO Village社区合作，为CISO准备了一份指南，用于评估 Generative AI和ChatGPT的企业风险和机遇。

(相关资料图)

尽管益处多多，安全主管的担忧正在增加。虽然许多CISO感到广泛启用GenAI的压力，但他们明白不加选择地这样做可能会带来广泛的风险。就像最初引入的互联网、云、智能手机和社交媒体一样，我们发现自己落后于技术采用曲线，并面临成为业务推动者的机会。

事实上，这份报告得出的结论是，与GenAI相关的风险是可以管理的。

CISO提出的关键问题：谁在我的组织中使用该技术，目的是什么？员工与GenAI交互时如何保护企业信息（数据）？如何管理底层技术的安全风险？我如何平衡安全权衡与技术提供的价值？

虽然GenAI的许多固有风险存在于任何云或基于AI/ML的技术中，并且应该由现有政策涵盖，但需要假设GenAI被广泛采用的新政策，包括非技术人员。

在本文中，我们讨论了这项新技术带来的各种企业风险、威胁和影响，我们探讨了威胁建模、制定政策时的考虑因素、与内部利益相关者（如工程和法律团队）的互动，以及其他相关方面。

作为CISO社区，我们面临着一个历史性的机遇，它也可以影响监管以及世界各地个人（包括我们组织的个人）的安全、隐私和安全。

最后，重要的是要注意安全社区继续研究这个关键主题。随着更多协作项目的形成和行业最佳实践的记录，我们的主题、发现和建议将由Team8和CISO Village进行更新和扩展。

报告要点

高管们，其中包括CISO，发现自己落后于技术采用曲线，而员工和业务部门正在迅速采用Generative AI（GenAI）技术。

CISO正在问的关键问题：谁在我的组织中使用该技术，目的是什么？当员工与GenAI交互时，我如何保护企业信息（数据）？我如何管理底层技术的安全风险？如何在安全性权衡与技术提供的价值之间取得平衡？

通过与相关利益相关者合作，为组织制定定制政策，可以管理与GenAI相关的风险。

尽管GenAI的许多固有风险存在于任何基于云或AI/ML的技术中，但需要新的政策来假设GenAI的广泛采用，包括非技术人员的广泛采用。

企业中与GenAI相关的最严重风险源于四个根本问题：

GenAI对内部运营和流程的影响；

信任第三方安全的必要性；

采用导致的法律和监管风险；

尽管数据泄露风险确实存在，但媒体对其进行了不必要的炒作。

可以通过应用以下策略来管理这些风险：

识别相关风险及其对组织的影响；

制定组织政策，说明如何以及谁可以使用这些工具，将上述风险降低到可接受的水平；

根据提供给客户的安全性和政策可定制性，选择合适的GenAI提供商，例如选择退出和数据保留；

在企业控制下审查潜在的内部替代方案。

关于Team8 CISO Village

这是一个由来自世界领先企业的CISO组成的社区。主要重点是促进世界上最著名的公司之间的合作，目的是分享信息和想法，就行业和技术趋势和需求进行深入讨论，并为各方创造价值和商业机会。