-
大模型llama.cp编译
一、大模型部署工具 llama.cpp 二、使用 llama.cpp 量化模型 2.1 克隆llama.cp 项目地址： https://github.com/ggerganov/ll...
-
SenseVoice 实测，阿里开源语音大模型，识别效果和效率优于 Whisper，居然还能检测掌声、笑声！5分钟带你部署体验
SenseVoice 实测，阿里开源语音大模型，识别效果和效率优于 Whisper，居然还能检测掌声、笑声！5分钟带你部署体验...
-
使用go-llama.cpp 运行 yi-01-6b大模型，使用本地CPU运行，速度挺快的
使用go-llama.cpp 运行 yi-01-6b大模型，使用本地CPU运行，速度挺快的...
-
对标Sora！首个国产纯自研视频大模型Vidu全球上线：30秒生成
快科技8月1日消息，日前，由生数科技联合清华大学打造的Vidu视频大模型正式在全球上线（www.vidu.studio），这也是首个国产纯自研视频大模型。 据了解，Vidu目前开放了文生视频、图生视频...
-
GPU训Llama 3.1疯狂崩溃，竟有大厂用CPU服务器跑千亿参数大模型？
几小时海水能淹没软梯? 同样，AI几乎0延迟给出了详细的解题步骤和答案。 用通用服务器运行千亿参数大模型，可谓是前无古人，这一领域的积累完全是空白，没有任何经验可借鉴。 LC信息，究竟是怎么做到的?...
-
大模型行业，根本没有什么“真”开源？
最近一段时间开源大模型市场非常热闹，先是苹果开源了 70 亿参数小模型DCLM，然后是重量级的Meta的Llama 3.1 和Mistral Large2 相继开源，在多项基准测试中Llama 3....
-
llama大模型提前停止策略，实现工具调用——以Llama3为例
在大模型的generate过程中为了实现工具调用功能，模型输出到了指定的token需要执行工具的时候，需要模型的generate停止。model.generate( 的参考链接：https://git...
-
1个电话1分钱，烦人的AI外呼成大模型最成功应用？
说到大模型最成功的应用，你首先想到的可能是对话式机器人Kimi、豆包、文心一言等等，这些月活数百万尚无法盈利，甚至无法准备回答“9.11和9.8哪个更大”的明星产品。 他们背后需要强大的技术实力支撑，...
-
Stable Diffusion：质量高&画风清新&细节丰富的二次元大模型二次元插图
，画风比较清新，背景细节元素丰富逼真。 模型下载地址（文末网盘地址也可获取） 作者在官网给出了该大模型推荐参数设置。 采样：DPM++ 2M Karras/Euler a 采样迭代步数：...
-
LLaMA 3.1：开源大模型的新里程碑
更加智能，还能提高效率，为公司在激烈的市场竞争中铺设一条更加敏捷和智能的发展道路。 如何学习AI大模型？ 我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。 我意...