2023年，生成式AI备受关注，被认为是能够在多个领域实现变革的突破性技术，甚至被寄予改变人类生活的希望。然而，Menlo Ventures报告显示，尽管生成式AI在2023年取得突破，但这主要是一场炒作。
报告指出，生成式AI在企业云支出中所占比例“相对微薄”，不到1%。相反，传统AI在云市场中占据了18%的份额，达到了400亿美元的规模。Menlo的投资人Derek Xiao在接受VentureBeat采访时表示:“很多人认为生成式AI会迅速占领世界，AI是一个基本的飞跃。但现实是这需要时间，尤其是在企业领域。”
图源备注：图片由AI生成，图片授权服务商Midjourney
虽然一些预测将生成式AI市场在2030年达到768亿美元，年复合增长率为31.5%，或者在未来7年内在12个垂直领域创造至少4500亿美元的价值，但Menlo的调查发现，截至2023年之前，已有一半的企业在Menlo的“企业AI现状”报告中实施了某种形式的AI。
然而，Menlo的研究显示，企业对生成式AI存在强烈的犹豫。Menlo合伙人Naomi Ionita在采访中表示:“我们曾以为生成式AI会成为一夜成功的故事，但2023年是‘试验和摸底’的一年。” Derek Xiao补充说:“2024年将是实施生成式AI的辛勤工作。”
调查显示，大规模企业领导者应该在这些发现中找到一种舒适感，并认识到慢慢前进是可以接受的。Menlo的合伙人Tim Tully表示:“明智的人正在花时间，”并指出生成式AI的快速发展导致了对采用的犹豫，而且在许多情况下“资金不足”。
企业对生成式AI的犹豫主要围绕未经验证的投资回报和“最后一英里问题”等问题。其他关切包括数据隐私、AI人才短缺、组织带宽不足、与现有基础设施的兼容性以及解释性和定制性受限。
Menlo的报告指出，生成式AI解决方案“尚未实现有意义的转型”，未能创造新的工作流程和行为，生产效益感觉有限。直到买家能够看到真正的价值，他们将继续保持怀疑态度。
然而，早期采用生成式AI的企业在数据利用和削减“乏味、痛苦的工作流程”方面取得了显著收益。Ionita表示:“它以前无法做到的方式满足了用户。”Tully指出用户能够在20分钟内创建“非常卓越的工具”，“改变了工作流程”，“替代了团队，使人们的工作更轻松，更成功。真正创造了价值和收入。”
随着生成式AI市场的不断发展，Menlo看到了在垂直（行业特定）和水平(更广义)应用方面的巨大机会。Ionita指出，AI世界将是混合的:许多企业已经在使用多个基础平台，较小的模型将用于不同的专业用途。
关于现代AI堆栈的标准化，Menlo发现今年企业在这一领域投资了110亿美元，使其成为生成式AI领域最大的新市场。购买者表示，35%的基础设施支出用于基础模型，如OpenAI和Anthropic。这些封闭源模型继续占主导地位，占生产模型的85%以上。
此外，大多数模型是现成的，只有10%的企业对其进行预训练。大多数企业采用多模型以实现更高的可控性和更低的成本，96%的支出用于推断。提示工程是最受欢迎的定制方法，而人工审查是最受欢迎的评估方法。
此外，检索增强生成（RAG）正成为标准。该框架通过从外部知识库获取信息，增强大型语言模型(LLMs)，以克服固定数据集的限制，生成最新的、上下文相关的响应。Menlo的调查显示，31%的企业正在使用这种方法，而19%正在使用微调方法，18%正在实施适配器，13%正在通过人类反馈实施强化学习。
Menlo的Derek Xiao表示，创业公司不应只是“ChatGPT包装”，而应专注于提供新的工作流程、下一代推理、思维链和专有数据分析的工具。“这不仅仅是‘ChatGPT包装’，而更关乎在现有市场中创造新市场的能力。这是对创业公司的一种警告，差异化真的很重要。”