OpenAI向美国加州参议员Scott Wiener写了一封反对SB1047法案的信。
SB1047是美国加州在今年2月7日拟定的一项针对开源大模型的法案,其中有非常多不合理的条款,例如,如果有人微调了Meta最新发布的Llama-3.1模型,去开发一些恶意、非法的生成式AI产品,那么Meta就会受到很重的处罚。
Meta每年还要向政务部门提交哪些用户正在使用它的模型和主要用途。这个法案对开源模型的监管相当严厉,并且是针对训练成本1亿美元以上的模型,所以,在这个法案监管之下将没有大型科技公司敢开源模型了,会彻底扼杀AI创新。
OpenAI认为,对大模型、生成式AI的监管是好的,有助于用户安全部署、使用这些产品。但应该制定一套合理的监管条例,而不是盲目的一刀切,让很多科技公司对这个法案产生恐惧感。
同时目前美国在生成式AI领域处于领导地位,应该从国家层面来实施监管条例,而不是各州私自建立。并且一旦实施这种不合理的监管可能会产生巨大影响,因此,应该制定一套清晰、合理、安全的AI监管条例,而不是扼杀技术的创新。
很多AI、科技界的大佬对这个法案持反对态度,图灵奖获得者、Meta首席科学家Yann LeCun 曾多次表示,SB-1047法案会彻底终结加州的AI创新,并且批评了起草这个法案的Nirit PhD,她只会乱带节奏,忽悠那些不懂科技的人来制定不合理的条例。
AI著名科学-家吴恩达在不同的场合多次反对了该法案,也是最积极的代表人物之一,他认为,SB-1047会对开源大模型领域带来毁灭性打击。
目前的软件、硬件、人才等基础设施全都掌握在大型科技公司手里,一旦他们不再分享自己的研究成果,那么整个行业便很难实现技术创新。同时他也呼吁更多的人加入到反SB-1047法案阵营中。
“AI教母”李飞飞也表达了对SB-1047的看法,这个监管的出发点是好的,但有很多条例是不合理的,这会严重伤害学术界、开源以及科技界。
众多网友也表达了对该法案的看法,SB-1047可能会成为人类历史上,最不公平的法案之一。
Lamini AI的首席执行官Sharon Zhou表示,开源大模型对于中小企业相当重要,可以用最小的成本享受最好的技术,而SB-1047可能会让开源关上大门。
例如,2023年OpenAI发布的ChatGPT轰动全球,正是因为开源,才能让中小企业使用上与其性能相当的产品。
SB-1047的监管条例是相当混乱的,开发人员必须雇佣非常贵的安全顾问才能进行技术创新。监管人员富起来了,而其他人会付出巨大代价。
加州应该撤回SB-1047法案,这不仅伤害了大型科技公司的热情,小公司也会受到牵连。
SB-1047不是一个明确的好法案,会严重影响加州的AI企业,应该使用一种合理的监管条例来保护开源领域。
目前,反对SB-1047法案的科技企业和知名科学家已经达到数百人,其中还包括OpenAI、Anthropic这样闭源模型的代表公司。
按道理说,开源大模型倒下了受益最大的便是闭源模型,但他们依然站出来反对这个法案,可见SB-1047的很多条例是有多么的不合理。
总结
### 文章总结**主题**:OpenAI及多位科技界人士反对加州SB1047法案,认为该法案严重阻碍AI创新和技术发展。
**背景**:
- SB1047是加州在2月7日拟定的一项针对开源大模型的法案,旨在严格监管训练成本超过1亿美元的模型。
- 法案中存在不少不合理的条款,如对微调开源模型用于恶意用途的企业进行重罚,并要求科技企业向政府提交用户信息及模型主要用途。
**OpenAI的立场**:
- OpenAI认为对大模型和生成式AI的合理监管是必要的,但SB1047的条款过于严苛,将扼杀创新。
- 强调应制定全国层面的清晰、合理、安全的监管条例,避免各州自行实施可能带来的混乱与不公。
**其他反对声音**:
- 包括Meta首席科学家Yann LeCun、著名AI科学家吴恩达、AI教母李飞飞等在内的多位科技界大佬均反对该法案,认为其将终结加州的AI创新。
- Yann LeCun批评法案起草者不具专业性,吴恩达则担忧法案对开源大模型的毁灭性打击以及对整个科技行业的影响。
- 李飞飞指出,虽然监管出发点好,但诸多不合理条例将严重伤害学术界和科技界。
**中小企业视角**:
- 以Lamini AI首席执行官Sharon Zhou为代表的中小企业认为,开源大模型对中小企业意义重大,SB1047的实施可能导致开源大门关闭,增加技术创新成本。
- 以ChatGPT的兴起为例,强调了开源模型如何促使中小企业以低成本享受先进技术。
**公众反响**:
- 网上舆论普遍对该法案持批评态度,认为其可能成为人类历史上最不公平的法案之一。
**结论与展望**:
- 已有数百家科技企业及知名科学家公开反对SB1047法案,包含一些闭源模型公司也站在反对阵营中,凸显了该法案的不合理性。
- 加州应当撤回SB1047法案,转而制定更加合理的监管条例,以保护和促进AI领域的创新发展。