昨日,AI领域两位重量级人物Yann LeCun和Elon Musk就人工智能的安全性和监管问题在社交媒体上「隔空交锋」。
人工智能先驱LeCun在X上表达了他对正在进行的人工智能监管的看法。
LeCun认为,现在担心人工智能带来「生存风险」还为时过早,更别说对其进行监管了。
「人工智能并不是某种会突然出现并变得危险的自然现象。我们设计它,我们建造它。」
他强调AI的安全性取决于人类设计,目前无需过度担忧。
而马斯克则以幽默回应,「Prepare to be regulated」,暗示未来可能的监管。
图片
马斯克LeCun隔空战,激烈开火
对于AI监管问题,马斯克和LeCun从来都不在一条战线上,这次对话让公众更加清晰地看到了他们二人立场的不同。
在马斯克的回复下面,LeCun也毫不示弱,他问道「你对『不要训练超过10^26flops的模型』感到高兴吗?」
图片
LeCun所提到的「不要训练超过10^26flops的模型」,出自拜登去年10月签署的白宫首个生成式AI监管规定。
图片
事实上,这个规定的出台,马斯克作为一个积极的「监管支持者」功不可没,他总是一方面展现出对人工智能失控的巨大恐惧,另一方面不遗余力地建立自己的AI帝国。
而LeCun作为一个拥护AI进步「监管反对者」,同时也在极力倡导开源和共享。
LeCun:要开放,不要监管
图片
人工智能不是某种自然现象,它不会突然出现,也不会突然变得危险。
它是由我们设计的,也由我们构建。
我能想象出成千上万种涡轮喷气发动机出现严重错误的情况。
然而,在广泛部署涡轮喷气发动机之前,我们设法使其变得极其可靠。
对于人工智能来说,这个问题是类似的:
「我们是否认为至少存在一种人工智能系统的设计,它同时是安全可控的,并能以比人类更智能的方式实现目标?」
如果答案是肯定的,我们就会没事。
如果答案是否定的,我们就不会建造它。
现在,我们甚至连达到人类级别的智能系统设计的影子都还没看到。
所以,现在担心还为时过早。
而且为了防止「生存风险」而对其进行监管也为时尚早
LeCun发表这则推文的背景,是在加强人工智能监管的呼声日益高涨,OpenAI人工智能安全团队大规模外流之下发布的。
LeCun的立场与OpenAI前董事会成员所表达的观点形成鲜明对比。
后者一直主张更严格的人工智能监管。他们认为,为了全人类的福祉,必须要驯服市场力量。
就连最近备受诟病的OpenAI首席执行官奥特曼也对「微妙的失调」导致人工智能变得危险表示担忧。他表示,「杀手机器人」不太可能,但「失调」可能带来的潜在风险是需要警惕的。
此外,谷歌的首席执行官劈柴也同意奥特曼和马斯克关于良好监管人工智能重要性的观点。
然而,LeCun的帖子表明,人工智能社区在这个问题上还远未达成共识。
就像在开源or闭源这个问题上,他们存在的巨大分歧一样。
LeCun在网友「了解『我们』设计和构建的人工智能是如何工作的可能是个好主意」这一评论下表示赞许
「是的,这就是为什么我一直大力倡导开放研究和开源。」
图片
马斯克:要监管,更要竞争
马斯克一直支持监管。
他曾多次警告人工智能的危险,「人工智能比管理不善的飞机设计或生产维护或糟糕的汽车生产更危险,从某种意义上说,它具有潜力,无论人们认为这种可能性有多小,但它并非微不足道——它有文明毁灭的潜力」。
包括那封著名的公开信,呼吁暂停「失控」的人工智能开发竞赛6个月。
他还作为顶尖技术领袖出席与立法者的闭门会议,并且公开支持政府对人工智能的监管。
马斯克表示,尽管「受到监管并不有趣」,可一旦人工智能「可能掌控一切」,制定法规可能就为时已晚。
话虽这么说,但这并没有阻碍马斯克的行动,也不妨碍他深度参与人工智能的发展。
马斯克通过对他庞大的公司帝国的投资,参与了更广泛的人工智能军备竞赛。
他正在全力打造一款能够与科技巨头微软和谷歌的人工智能产品相媲美的产品。
马斯克将其描述为「最大程度追求真理的人工智能」,「关心理解宇宙」。
与此同时,他也赞助了其他AI项目。
这也引来了网友的嘲讽:
图片
LeCun嘲讽马斯克,被网友开炮
另一边, 在马斯克刚刚转发自家xAI公司招募帖子下面,LeCun又开始阴阳怪气起来。
马斯克配文:
如果你相信我们理解宇宙的使命,就加入Xai吧!这需要在追求真理道路上必须秉持最大的严谨,而不受流行去世或政治正确性的影响。
LeCun的评论简直让人大跌眼镜。
如果你能忍受一个这样的老板,就加入xAI:
- 声称你正在做的工作明年就会被解决(没有压力)
- 声称你正在做的事情会杀死所有人,必须停止或暂停(6个月的假期)
- 声称想要「最大限度地严格追求真理」,但在自己的社交平台上散布疯狂的阴谋理论
图片
LeCun得出此言,正是因为上周马斯克公开表示,AGI明年就会到来,而且他估计摧毁人类的可能性为10%-20%。
图片
而评论区的画风,都是在向LeCun开炮。有网友称,为什么最近说话这么毒?
图片
还有人恶搞了一张,小扎给LeCun派任务的表情包,这样做是为了分散所有人的注意力。
还有人表示,「你发的这帖子就是想说为马斯克工作,还不如为LeCun工作」。
LeCun称,「我不是任何人的老板,即便你加入FAIR,也不会为我工作」。
图片
接下来,在更长推文中,各路网友站队马斯克,与LeCun唇枪舌战。
Dave:或许你可以解释下你对马斯克有什么意见吗?
LeCun:我喜欢他的车、他的火箭、他的太阳能电池板和他的卫星网络。但我非常讨厌他的复仇政治、他的阴谋论和他的炒作。
Julien:我非常尊重你的工作,作为15年前说服我学习机器学习的为数不多的人之一,为什么你不创办自己的人工智能公司,试着做些贡献呢?留在Meta,告诉别人他们错了,这有点奇怪,不是吗?
LeCun:我是科学家,不是商人或是做产品的人。
马斯克:那你在过去5年,做了哪些「科学」?
LeCun最后po了一个链接,并称自己自2022年1月以来发表了80多篇技术论文,最后反问马斯克「你呢」?
图片
马斯克对此表示,那没什么,你越来越弱了,再加把劲!
LeCun突然感到一顿搞笑,「说的好像你是我老板一样」。
图片
Karas之父见状之后,你们需要来一场「笼斗」,一较高下。
图片
仅10个月,马斯克xAI估值达OpenAI的1/3
Information曾爆料称,马斯克将建造世界最大的「超算工厂」,配备10万块H100以训练下一代Grok模型。
就在昨天,马斯克宣布xAI已经完成,惊人的60亿美元B轮融资。
据称,公司估值达到240亿美元。
图片
B轮融资的投资者包括Andreessen Horowitz、红杉资本、Valor Equity Partners、Vy Capital和Fidelity Management&Research等8位投资者。
图片
史上最大的B轮融资
去年12月,xAI曾进行了首轮融资,规模达1.347亿美元。
图片
2023年7月官宣成立,xAI至今也不过10个月的时间,却受到了资本市场的极大青睐。
现在xAI的体量,已经达到了OpenAI的1/3。2月数据显示,OpenAI的估值已达到800亿美元。
图片
而这一轮融资,标志着AI军备竞赛的进一步升级。
近年来,领先的AI初创公司已经筹集了数十亿美元,纷纷投在了训练先进大模型所需的算力上。
目前,OpenAI已从微软获得了130亿美元资金承诺,而Anthropic融资已经超过60亿美元。
图片
xAI能够吸引这么大的融资份额,与其背后团队的努力、研究成果,以及使命息息相关。
先来看看xAI团队研究成员的强大背景,他们纷纷来自谷歌、DeepMind、微软、Meta、OpenAI等大公司的科学家。
图片
另一方面,几乎半年的时间,xAI取得了硕果累累的成果。
从Grok-1的发布,到Grok-1.5、Grok-1.5V迭代升级,还有Grok-1开源,PromptIDE开源工具。
图片
去年11月,Grok-1模型震撼亮相,目标就是瞄准OpenAI的ChatGPT。
新模型加持下的聊天机器人Grok,可以同时进行多任务处理,并排运行多个会话,还可以在多对话之间随意切换。
图片
在不同的基准测试中,Grok-1在数学、编程、MMLU中取得了领先GPT-3.5的优势。
值得一提的是,取得如此突破性成果,是xAI的11位研究人员狂训2个月换来的。
图片
而就在今年3月,采用MoE架构的Grok-1全面开源,参数量高达3140亿,成为当时最大的开源模型。
图片
Grok-1也是通过磁力链Apache 2.0发布。
图片
紧接着,没过半个月,马斯克再次推出了升级版的Grok-1.5,最大特点是支持128k上下文,而且推理能力大幅提升。
图片
从基准测试结果可以看出,Grok-1.5各方面的性能得到全面提升,而且更接近世界领先的大模型。
图片
也就在上个月,多模态版的Grok-1.5V诞生,号称可以连接物理和数字世界。
除了配备基本的文本能力,Grok-1.5V还可以处理文档、屏幕截图、照片之类的视觉信息。
比如,看图写出Python代码。
图片
在性能测试上,Grok-1.5V与GPT-4V不相上下,甚至有些能力还超越了GPT-4V。
图片
除了以上所呈现的,自成立之初,马斯克对xAI的愿景是,找寻生命、宇宙,一切万物的答案。
而且,它是一个探求「最大真理」和「宇宙本质」的AI公司。
图片
官博称,此次融资将用于把xAI的首批产品推向市场,以建设先进的基础设施,并加快未来技术的研发。
图片
参考资料:
https://x.com/ylecun/status/1795032310590378405
https://x.com/ylecun/status/1795219718837616775
https://x.ai/blog/series-b