生成式人工智能(GenAI)的迅速崛起使得企业争相寻找新的创新方法来利用这项技术在商业应用中的力量。许多企业认为，大型语言模型(LLM)已经重塑了人工智能驱动的商业应用程序的构建方式，所需要的只是将数据输入到大型企业的LLM模型中，它就会完成工作。然而，事情并没有那么容易。
研究和咨询公司Forrester发布了一份新的报告，强调GenAI商业应用需要的不仅仅是一个通用的LLM。即使是最精心调整和提示训练出来的LLM也可能不足以构建和安全运行基于GenAI的应用程序。这种简单的方法不允许组织使用他们所有的专有知识来工作。它还存在其他一些风险，包括伸缩性、安全性和成本问题。
Forrester的报告是通过调查15家最大的服务提供商如何使用GenAI帮助全球2000多家公司来编写GenAI驱动的业务应用程序。该报告的调查结果表明，企业需要组装一个“层、门和管道”架构，以安全有效地运行基于GenAI的应用程序。
“层、门和管道”架构利用来自许多智能层的资源，将内部和外部功能结合在一起。它还需要输入和输出控制门来保护人员、公司和模型本身。此外，它还需要应用程序管道来提示、嵌入和编排智能层，以便将请求转换为输出。最后，需要测试和学习循环来测试和监视结果并做出相应的调整。
在深入挖掘“层、门和管道”架构的元素时，报告指出，智能层包括广泛的功能，包括通用的、嵌入式的和专门的GenAI模型。
组织应该自己创建和管理的智能资源包括软件应用程序、AI/ML模型、私有GenAI模型、结构化和非结构化数据，以及人们的提示和行为。组织应该从供应商处获取的情报来源应该包括特定于领域的GenAI模型、公共GenAI工具、绑定的GenAI模型，比如SaaS应用程序。
使用输入门有助于拒绝错误的请求、虚假的提示和危险的搜索。它还可以把模糊的请求变成可回答的提示。输出门根据遵从性需求、安全性等帮助验证问题的输出。
应用程序管道用于通过API优先工作流将所有这些连接在一起。它们帮助从智能层缝合资源，使它们能够顺利地端到端流动。架构的最后一个元素是通过用于测试的反馈循环进行测试。它们有助于在应用程序中建立信任、信心和有效性。
Forrester的报告还补充说，企业现在可以从各个部分组装应用程序，因为他们可以在未来几年内构建一个完整的体系结构来支持GenAI应用程序。只有通过适当的关注，企业才能充分受益于GenAI业务应用程序的强大功能。