人工智能的影响几乎波及了商业世界的方方面面，金融业也不例外。预计金融部门的组织将经历人工智能变革力量的巨大变化。华尔街被视为全球金融和经济中心，长期以来一直依赖传统技术，但现在对人工智能技术，特别是生成式人工智能(GenAI)产生了浓厚的兴趣。
尽管华尔街在人工智能研究、开发和专利方面投入了数十亿美元，但它们可能在没有足够安全保障的情况下取得进展。美国消费者监督机构最近的一项调查表明，华尔街的人工智能可能会导致算法复杂、缺乏透明度、有偏见或虚假信息，这可能导致下一次金融危机。
消费者监督机构的调查包括分析美国专利商标局(USPTO)的人工智能相关专利申请。华尔街的银行正在为各种应用申请专利和商标。高盛(Goldman Sachs)、摩根大通(JPMorgan Chase)和摩根士丹利(Morgan Stanley)正在寻求人工智能来分析证券、投资、预测股价和投资组合。
华尔街几乎每家银行都在开发自己版本的ChatGPT，为客户和员工提供金融建议。这是令人担忧的，因为“人工智能幻觉”的风险是使用GenAI的最大威胁之一，因为它可能导致有偏见或误导性的产出，这在金融领域可能会带来灾难。
“如果没有适当的监管，下一次金融危机可能将是由人工智能引起的。”消费者监督组织(Consumer Watchdog)的科技倡导者Justin Kloczko说，“由于少数几家强大的银行依赖于一些有偏见的算法，房地产或股市可能会引发衰退。”
根据消费者监督机构的说法，使用人工智能可以创造复杂的新金融衍生品，让投资者可以用数十亿美元的垃圾债券进行赌博。这可能导致像2008年金融危机那样严重的经济崩溃。
南加州大学研究人工智能的金融学教授Gerard Hoberg在接受消费者监督组织采访时表示:“这些公司使用自动化越多，并且开始在更大的市场上使用自动化时，那么就会出现一些系统性风险。”
消费者监督组织在报告中呼吁美国州政府和联邦政府加强监管，建议进行更复杂的监控和定期审计，以防范系统性风险和“羊群效应”（“羊群效应”指的是一种系统性偏见，即投资者倾向于追随和复制其他投资者的行为）。
该报告还建议人工智能投资系统遵守与人类投资顾问相同的标准，并要求对人工智能投资算法的黑匣子数据进行外部审查。
消费者监督机构的报告强调了加州政府为解决这一问题所做的努力。加州隐私保护局(CPPA)制定的规则草案允许人们选择不使用人工智能自动化技术进行任何财务决策。加州政府制定的规则提供了针对人工智能风险和偏见的保护，并为其他州提供了一个效仿的榜样。
自2020年以来，美国专利商标局的人工智能相关专利申请激增，申请数量超过8万件。有趣的是，超过90%的人工智能专利申请仅由五家投资银行提交，它们还控制着一半人工智能投资交易和三分之二以上的研究论文。如果监管机构不采取行动，当华尔街的顶级银行决定使用有偏见或不可靠的人工智能模型，全球经济可能遭受下一次金融危机。