谷歌云预测，2024年生成式AI的持续使用将帮助创建更智能的网络钓鱼活动，而网络安全专家将使用相同的工具来捍卫并缩小技能差距。
据谷歌云网络安全预测2024报告显示，普通人用于判断电子邮件是否合法或欺诈的标志，如拼写错误、语法错误和缺乏文化背景，将在2024年变得更加难以察觉。
攻击者将继续使用生成式AI和大型语言模型（LLM）进行网络钓鱼、短信和其他社会工程操作，使内容，包括语音和视频，看起来更加真实。
谷歌云网络安全预测2024报告还警示称，由于使用生成式AI创建虚假新闻、虚假电话以及基于生成式AI创建的虚假内容的深度伪造照片和视频，公众对企业和政府可能产生增加的怀疑和不信任。同时，谷歌云还预测，生成式AI和LLM将作为付费服务提供给攻击者使用。
然而，好消息是网络防御者将采用类似的工具来对抗这些威胁。谷歌云预测，人工智能的一个重要用例是推动组织如何综合大量数据并在威胁情报中将其情境化，从而产生可操作的检测或其他分析。人工智能和生成式AI将提供增强人类能力的能力，以分析和推断行动。