根据思科2024年数据隐私基准研究，超过四分之一(27%)的组织出于隐私和数据安全风险的考虑，暂时禁止在员工中使用生成式人工智能。
大多数组织还对此类工具实施了控制。近三分之二(63%)的受访者对可以输入的数据进行了限制，61%的受访者对员工可以使用哪些GenAI工具进行了限制。
尽管有这些限制，许多组织承认已经将敏感数据输入到生成人工智能应用程序中。其中包括内部流程的信息(62%)、员工姓名或信息(45%)、有关公司的非公开信息(42%)以及客户名称或信息(38%)。
大多数受访者(92%)认为生成式人工智能是一种全新的技术，带来新的挑战，需要采用新技术来管理数据和风险。
受访者对人工智能技术最大的担忧是：
- 可能会损害组织的法律和知识产权(69%)
- 输入的信息可能会公开泄漏或与竞争对手共享(68%)
- 返回给用户的信息可能是错误的(68%)
- 对人类有害(63%)
- 可能会代替其他员工(61%)
- 可能会代替自己(58%)
员工的人工智能账户泄漏和滥用也是企业面临的重大风险。根据卡巴斯基的调查，大量被盗ChatGPT账户在暗网热销，对用户和公司构成重大威胁。
此外，ChatGPT等流行大语言模型的训练数据和生成数据还可能存在违反GDPR等数据保护法规的风险。
91%的安全和隐私专业人士承认，他们需要采取更多措施，让客户放心使用人工智能的数据。
然而，思科的调研显示，下列帮助建立AI信任的工作中没有任何一项获得超过50%的受访者的采用：
- 解释AI应用如何工作50%
- 确保流程中有人员干预50%
- 制定AI道德管理计划49%
- 审计AI应用偏差33%
思科首席法务官DevStahlkopf评论道：“超过90%的受访者认为人工智能需要新技术来管理数据和风险。AI安全治理对建立客户信任至关重要。”