美国政府近期发布一项新的AI法规，也让世界再次把目光放到AI的安全疑虑问题上。
对于开发大模型的公司来说，这项法规要求它们向政府提供更多信息，而这可能会减慢新产品和更新的发布速度。这项法规中的许多规定涉及尚未上市的大型基础模型和AI系统的未来发展，这就意味着像ChatGPT这种面向消费者的工具不太可能受到多大影响。
这项法规公布后，多家AI公司和行业领导人也发表了他们对AI监管的看法。其中，15家AI公司作出相应的承诺，但AI领域的最大玩家OpenAI却显得异常沉默。其他大型公司如Adobe、亚马逊、谷歌、微软等也表示支持该法规。
于是便有指责声音称OpenAI和其他大型AI企业试图通过游说，对AI行业实施“监管捕获”。超过70位AI领导者还发表了一份联合声明，呼吁对AI监管采取更透明的方法。一场围绕AI监管的口水战也就此展开。
前NSA黑客、IANS Research的教员 Jake Williams 表示：“我不认为我们可能会看到对消费者可用的生成式AI工具的任何直接变化。”
Meta首席AI科学家Yann LeCun在X上指责OpenAI、Anthropic和Google子公司DeepMind利用恐惧宣传来确保有利的结果。
Sam Altman则表示，虽然这项规定中有一些好的部分，但政府在实施时不应拖慢小公司或研究团队的创新速度。他表示支持对“前沿系统”或大型基础模型进行规范，但是反对“监管俘获”。
其实，AI可能造成的问题早已受到国际社会的广泛关注。早在今年10月，联合国就成立了一个高级别人工智能咨询机构，专门针对AI技术带来的风险和机遇进行探讨，同时为国际社会加强治理提供支持。中国科学院自动化研究所研究员曾毅与中国政法大学数据法治研究院教授张凌寒成为我国在该机构的代表。
本月初，英国政府主办的人工智能安全峰会（AI Safety Summit）上，美国、中国、欧盟等28个国家的代表和企业签署了《布莱切利人工智能安全宣言》，这份宣言重申了“以人为中心、可信任的和负责任的”（human-centric, trustworthy and responsible）AI发展模式，呼吁国际社会的合作，并强调AI的实施以保障人权和实现联合国可持续发展目标为目的。
曾毅在峰会的发言中表示，虽然先进人工智能有可能通过解决当前健康、教育、环境、科学等领域的未解挑战，但创造这些好处的人工智能系统，本身的属性也成了巨大的风险来源。当规模更大、不确定性更大的模型向所有人开放时，误用、滥用问题将不仅是人工智能科学家面临的挑战，也是全世界面临的挑战。他还提出，我们需要建立一个涵盖全世界的人工智能安全网络，以解决不可预知的进展和失败。
国际社会、科技巨头和AI公司对AI技术都表现出一种谨慎的态度，但是在另一边，华尔街的人工智能军备竞赛仍在升温。先锋集团（Vanguard）已经在使用人工智能生成退休投资组合；摩根士丹利已经推出了由ChatGPT驱动的金融顾问助手，称生成式AI会“革命性地改变客户互动”；摩根大通为名为“IndexGPT”的产品申请了专利，以帮助交易员决定投资方向……华尔街似乎一直难掩对AI的喜爱。
摩根大通首席执行官Jamie Dimon表示，他相信这项技术在未来将非常重要，并在今年4月份致股东的一封信中称：“AI和为其提供动力的原始材料——数据，将对我们公司的未来成功至关重要。”根据他们公司2月份的一项调查，他的同行也有同样的感觉，调查显示，有一半的机构交易员相信，在接下来的三年中，AI将是华尔街最具影响力的技术。
高盛信息科技总监Marco Argenti表示，人工智能“可能是我见过的最巨大的革命之一， 我们相信，人工智能不仅可以深刻颠覆我们的行业，而且可以颠覆所有数码、所有信息科技和知识行业。”
AI已经渗透到银行的“每一个角落和缝隙”，包括法律、交易、贷款、索赔甚至电子邮件管理，伦敦Evident公司的经济学家Alexandra Mousavizadeh表示，华尔街——尤其是大型美国银行——在AI方面表现出“巨大的热情”和“毫不犹豫”，这导致他们急于聘请具有AI技术经验的人员。她声称：“如今银行的每一项工作都受到AI的影响。”
Giuseppe Sette是前对冲基金经理，现在是Toggle AI的总裁，该组织试图训练大型语言模型来处理财务问题。他说，将指挥权交给一个人工智能系统只是时间问题：“由于便利和效率的法则，总有一天我们会给予这些系统权限。”
不过金融监管部门就没那么乐观了，华尔街对AI的狂热引起了SEC主席Gary Gensler的注意，他在接受《金融时报》的一次采访中表达了对人工智能融入金融服务行业的担忧。Gensler认为，这一被大肆宣传的技术在未来十年内导致金融危机的可能性“几乎是不可避免的”。
Gensler担心的是，大量的金融机构会开始围绕“相同的基础模型或基础数据聚合器”重新设计其策略，他担心这可能导致华尔街出现从众心态，进而造成危险的后果。Gensler表示，这对监管部门来说将是一个“艰难的金融稳定问题”，因为基础模型可能不是基于金融公司，而是基于“大型技术公司”，从而导致整个行业出现“横向问题”。
不过一些研究人员和金融AI领域的人员表示，虽然Gensler的担忧有道理，但可能过于夸张。哈佛商学院的Robin Greenwood教授表示，研究表明，金融危机的“根本原因”“通常”是信贷泡沫，而不是技术创新。但他也认同，AI的确也有可能在未来成为“潜在的触发因素”。
欧洲大学学院的金融稳定教授和佛罗伦萨银行和金融研究所的资深研究员Thorsten Beck也同意这一观点，他说：“尽管信贷泡沫可能是金融危机的主要原因，但其他因素也可能是危机的触发因素。从这个角度看，Gary Gensler的担忧不无道理。”
科技大佬、金融机构和监管部门这场围绕AI监管的口水战仍在持续的当下，已经有公司打算采取行动了。也许是为了规避新规的影响，这家名为“Del Complex”的公司做出一项另类的举动——把一堆用来训练AI的硬件设备放在公海的驳船上。
Del Complex自称为一家专注AI研究的公司，于周一在X上宣布推出“BlueSea Frontier Compute Cluster”（或称BSFCC）。据称，BSFCC是一艘载有10000台Nvidia H100 GPU的太阳能驳船，这些GPU专为AI训练设计，每台售价30000美元。Del Complex认为，新的AI法规和欧盟的AI法案“旨在在安全的幌子下集中控制”，所以它决定把这些用来训练AI的硬件放在国际水域。
Del Complex在发布的内容中附带了一幅很逼真的BSFCC照片，还包括驳船的图表。随后的推文详细描述了BSFCC的假设特点。这篇内容迅速走红，很快获得了超过200万次的浏览。回复显示许多人完全相信这一消息，其中包括对该计划的批评和质疑。
然而有一个明显的问题——Del Complex不是一个真正的AI公司，其驳船同样是假的。
Del Complex将自己描述为一个“另类现实公司”（An Alternate Reality Corporation）。其网站上的一些图像看起来是AI生成的，包括混乱的文本和奇怪的脸部特征。一张图片展示了两名身着防护服的女子，用巨大的勺子吃着看起来像汤和沙拉混合的东西。
不过在被问到有关BSFCC的问题时，自称Del Complex研究员的开发者Sterling Crispin却也说得头头是道。Crispin表示，BSFCC符合他们的总体使命，并声称已经在LinkedIn上招聘员工，而且已经收到30个应聘申请。
Crispin表示：“最近的法规，主要问题之一，是它们过于关注训练层和硬件，而不是应用层。今天的超级计算机就是明天的怀表，而政策往往落后于时代，而不是领先于时代。”
结合Crispin表达的观点，还有网站上如此明显的AI生成痕迹，Del Complex和它颇具讽刺意味的BSFCC更像是一种行为艺术，似乎是在以这样的形式来告诉人们警惕AI的风险。
尽管有这些针对AI潜在风险的顾虑，但技术发展与监管之间的平衡问题，一直以来都没有一个确切的答案。在金融界，由AI引发的“腥风血雨”，早在ChatGPT尚未问世的2017年就已经出现了。根据Coalition在2017年公布的调研数据，自2012年起，华尔街累计削减岗位达12700个，已经是连续第5年减聘。当时就还有诸如“10年内股市AI斗AI”、“华尔街精英更该担心AI抢走饭碗”这类说法。
多年以后的今天，金融监管机构对AI风险的担忧，则更聚焦在可能引发金融危机的层面上。尽管存在诸多疑虑，一些研究者依然认为，AI和机器学习是未来的方向，而且这会是一场没有终点的竞赛，只要有新的技术和数据，它就会持续下去。