GenAI仍然是大多数企业的首要投资重点，而且期望值很高。根据普华永道的最新调查，美国61%的CEO预期AI将改变他们的业务价值生成方式，但要实现这一目标，企业必须将AI的炒作转化为现实。
好消息是，他们在这方面越来越擅长。事实上，根据Databricks最近发布的《数据+AI状态报告》的结果，企业将1342%的模型从实验阶段推向了现实世界，而且他们对数据和AI的雄心并没有减弱，实验模型的数量也增长了134%。
这些都是令人鼓舞的迹象，但根据我与CIO和其他技术领导者的对话，当前的挑战是如何保持这一势头。公司在对期望达成一致方面面临困难。自然，许多高管希望能立即看到投资回报，而且由于担心竞争对手在AI方面进展更快，公司没有考虑长期战略。
这种方法是错误的。只关注“现在”的公司会发现自己在一个又一个新奇事物之间跳跃。对GenAI的投资是一个漫长的过程，CIO必须将公司的AI心态从短期胜利转向长期业务转型，考虑到这一点，以下是CIO和其他技术领导者在应对这些挑战时应关注的三个关键领域：
1. 改善数据基础设施
AI的优先事项和关注领域几乎与技术本身一样迅速发展。
例如，六个月前，很少有CIO熟悉检索增强生成(RAG)。现在，在私有公司数据上训练商业LLM以获得更好和更定制化的性能已经成为一个重要的关注领域。根据我们的匿名使用数据，构建RAG模型的关键——向量数据库的使用在过去一年中增长了377%。一些公司，如Databricks，甚至开始使用“代理和工具”方法来帮助AI系统解决更复杂的问题。
这证明了GenAI的发展速度，以及其能力范围的快速扩展，但数据迁移仍然是一个挑战。例如，要构建一个成功的RAG系统，需要训练的数据必须是随时可用的，而不是被困在企业各处的孤岛中。结构化和非结构化数据都需要结合在一起，以确保模型能够提供用户期望的定制答案。
但这只是今天的挑战，企业需要一个可以随着需求和技术变化而扩展的框架。领导者应问自己以下问题：什么样的基础设施可以使我们有效管理、维护和从数据中获取洞察力，无论更大的AI环境如何演变?我们希望使用的应用程序在哪些类型或规模的模型中表现出色?我们的数据环境需要如何改进或变化才能与这些模型良好配合?
2. 导航基础模型
对于大多数企业来说，通用LLM是一个很好的起点。我们在平台上也持续看到使用量的增加。但企业使用这些基础模型越多，就越能发现其局限性。
这就是为什么现在很多企业正在寻求诸如RAG和微调等技术来提高模型的性能，并最终降低其运行成本。虽然公司正在对专有模型进行这项工作，但他们越来越多地选择开放系统。事实上，根据我们报告中的发现，在Llama 3发布几周后，它就占据了所有开源模型使用量的39%。
随着这些技术变得越来越普及，企业需要学习何时应用哪种技术。例如，当构建自己的模型可能更具成本效益时，企业可能会决定从头开始构建自己的模型，而只是微调一个基础模型，或者他们可能在处理不断更新的信息集。在这种情况下，RAG是更好的选择，因为企业可以快速向模型提供新数据。
重要的是，模型只会变得越来越好。对未来趋势保持敏锐的洞察至关重要。
3. 优先考虑AI开发和使用中的准确性
AI正在改变工作流程并重新塑造企业对数据的思考方式，但许多公司仍处于测试和实验阶段，这是因为，当前，许多模型并不像它们需要的那样准确或可靠。
一些公司已经看到了后果：一家航空公司的聊天机器人提供了一项不符合公司正式政策的退款，法院判决支持客户，或者考虑一家汽车经销商的聊天机器人向客户提供一美元的汽车。
如果这些失误在大规模或高风险场景中发生，企业将遭受损失，这就是为什么在循环中保持人类参与是至关重要的，特别是对于需要高准确性的应用程序。
即使模型有所改进，输出的质量也取决于支持它们的数据。强有力的数据卫生和监督是确保企业实现AI驱动成功的关键。确保数据的管理、可访问性和良好架构将帮助企业在未来看到更一致和可靠的输出。
AI将越来越能够在医疗、制造、企业技术等工作场所增强人类能力，这就是为什么企业需要专注于保持强大的数据基础设施和实践，优先考虑符合其更广泛业务战略的AI应用，并培养一个为这一变革时代做好准备的AI准备就绪的劳动力。