目录
前情提要
一、什么是AIGC
AIGC与传统的AI有何区别?
二、发展历程
GAN 生成对抗网络
大模型与Transformer
Transformer\BERT\GPT
扩散模型和稳定扩散模型
三、AIGC的发展应用
新质生产力
前情提要
小学期某一门课的笔记,老师名字隐去,第一篇没意识到要记笔记,讲的蛮不错的。
主要内容:AIGC+什么是新质生产力?
一、什么是AIGC
AIGC:生成式人工智能。以生成对抗网络GAN,大型预训练模型(大语言模型)LLM等为代表的人工智能方法,生成与内容相关的技术。
用文本生成图片、视频、药物结构、论文等等。
2022年4月福州微信视频通话AI诈骗,仅用10分钟,诈骗430万元。
暂时AI扫手比扫脸更安全。运动的手数据少。
AIGC与传统的AI有何区别?
演绎逻辑(一般到特殊);归纳逻辑(特殊到一般、可以创造新知识,不过可能有错误,但尝试多次可以提高准确率)。
判别式AI
生成式AI
典型应用
人脸识别、风险控制
CHATGPT
技术原理
条件概率
联合概率
特点
明察秋毫死水一潭
天马行空
颠覆性技术:能否将边际成本转化为固定成本。
如互联网就是一种颠覆性技术。没有互联网PPT要线下复制100次,而现在线上QQ就可以看老师的PPT。
AIGC技术会把创造和知识服务工作的边际成本降至0,从而产生巨大的劳动生产率和经济价值。
以前要画一副情侣100幅,需要学习达到一定的专业水平。需要几天甚至几十天的工作。现在几分钟就可以实现。
AIGC是一种颠覆性技术的理解如上。
二、发展历程
GAN 生成对抗网络
左右互搏
Training set ->
->判别器(真/假)
Random ->Generator(fake image)->
一部分要生成各种各样的内容要骗过判别器。
判别器要拼命修改参数分别人是人生成还是机器生成。
最后生成器可以用来生成内容,判别器可以用来分辨。
大模型与Transformer
大力出奇迹
特点:规模大、多任务、消耗大。
总有一天会达到天花板,如芯片中的摩尔定律。
Transformer\BERT\GPT
AIGC的核心是两个部分:理解+生成
Transformer使用自注意力机制进行编码和解码,尤其擅长以并行方式处理长序列数据。 BERT使用掩码语言模型和下一句预测任务进行训练,更好理解语言中的上下文信息。 GPT(Generative Pre-Trained)大模型是一种基于自回归模型的语言模型,能够生成连贯、自然的文本内容。1、运动的东西比静止的东西更容易吸引我们的注意力,这就是一种注意力机制(危机感)。
长序列数据:如小说。
Transformer类似接龙游戏:哪吒闹海、海---。海阔天空是可能的一个结果。
2、BERT类似完形填空。
3、走神,没听到。
扩散模型和稳定扩散模型
往一瓶纯净水中滴一滴墨水
生成图像、视频
三、AIGC的发展应用
AIGC类似操作系统
大模型门户:OpenAI Hugging Face(大模型的github) Perplexity AI(大模型的搜索引擎)
门户:百度、谷歌等门户网站
图片修改:大模型换发型、一键换衣、修改面部表情
AIGC帮助元宇宙虚拟世界生成(数字资产)
AIGC帮助视频自动剪辑。文字搜索寻找视频犯人,还可以提前监控。
未来可能整个视频没有真人出现。
语音——陶勇AI分身,去世的单田芳讲新剧。
跨模态——通过声音判断交通风险、判断机器故障、疾病。
第一款识别唇语的眼镜。(视觉转语言)
依据音乐写诗、从草图生成图像(选择理想房)、根据图画生成音乐、根据文本生成歌曲
AIGC-3D 2023年已经实现了0-1。(在github上有源码)
只拍四张照片生成一个3D的人物。
未来可能拍几张照片就可以把整个人身内部的东西还原出来。(取代CT拍片)
高质量3D数据稀缺。
质量与速度不能同时保证。
在这个时代不能说没有好老师教了。有GPTs可以生成教学计划,可以针对不同人群提出不同计划,还能出题。
!!!怎么写高效的提示词。
25000块A100GPU。
训练一次GPT-4大约用2400万度电。(40%的能源用于降温)
所以最近人工智能的前沿成果在工业圈,即谷歌、微软、英伟达等企业,因为学术圈没钱。
AI教学,AI高速写代码。
新质生产力
补充:老师还没讲完,新质生产力没有介绍。
新质生产力(生产力的类型)_百度百科 (baidu.com)
概念
什么是新质生产力。
新质生产力是创新起主导作用,摆脱传统经济增长方式、生产力发展路径,具有高科技、高效能、高质量特征,符合新发展理念的先进生产力质态。它由技术革命性突破、生产要素创新性配置、产业深度转型升级而催生。以劳动者、劳动资料、劳动对象及其优化组合的跃升为基本内涵,以全要素生产率大幅提升为核心标志,特点是创新,关键在质优,本质是先进生产力。
定义
新质生产力是生产力现代化的具体体现,即新的高水平现代化生产力(新类型、新结构、高技术水平、高质量、高效率、可持续的生产力),是以前没有的新的生产力种类和结构,相比于传统生产力,其技术水平更高、质量更好、效率更高、更可持续。