网站首页轮播图片素材,佛山网站建设,做视频播放网站,自己建网站要花多少钱生成模型初认识
参考学习资料#xff1a;李宏毅-机器学习
以下为课程过程中的简易笔记
生成模型
为什么要用生成模型#xff1f;——创造力#xff1a;同一个输入#xff0c;产生不同的输出#xff08;distribution#xff09;#xff0c;有一定概率发生某种随机事件…生成模型初认识
参考学习资料李宏毅-机器学习
以下为课程过程中的简易笔记
生成模型
为什么要用生成模型——创造力同一个输入产生不同的输出distribution有一定概率发生某种随机事件输入X从简单分布中随机sample出的向量z输出distribution
AE
自编码器
原始输入特征是有大量冗余的要重建出原图不需要那么多特征只要用low dim的中间特征就可以了 VAE
在AE的decoder的输入中增加噪声噪声的方差是 e σ e^\sigma eσ其中 σ \sigma σ也是由神经网络学习到的因为原始的AE不存在噪声它的预测是不可理解的满月和弦月的内插不一定得到比弦月满比满月弦但是VAE中加了噪声后因为噪声的存在就要求满月和弦月之间内插的点既和满月接近又和弦月接近因此就会产生比弦月满比满月弦的结果VAE和GAN不一样VAE说白了就是要不断地重建出训练数据集中有的样本最多是训练集中样本的组合是一个不断提高模仿力的过程要产生和训练集中的样本相像的图像最好能一模一样这样重建错误就会最小但是GAN是要生成以假乱真的图片产生的新图像并不是要和训练集图片一模一样而是要产生图像的分布和训练集图像的分布尽可能接近 GAN
Unconditional GAN 无条件生成只输入从简单分布sample的向量z 问Divergence用于衡量2个分布的距离然而 P G P_G PG和 P D a t a P_{Data} PData的formulation(公式)都不知道怎么计算Divergence GAN只要能分别从 P G P_G PG和 P D a t a P_{Data} PData两个分布中进行sample也就是分别从Generator产生的数据和收集到的真实训练数据中做sample就可以利用Discriminator估算出2者的Divergence 公式理解
要找一个G让红框里面的值越小越好(代表 P G P_G PG和 P D a t a P_{Data} PData两个分布的Divergence越小两个分布越像)然而由于两个分布的Divergence的公式并不能直接计算所以把 P G P_G PG和 P D a t a P_{Data} PData两个分布的Divergence转化为另一个优化问题通过引入一个Discriminator在Generator给定的情况下想要找到一个D让V(G,D)越大越好
Conditional GAN
有条件生成 Latent Diffusion Model
主要创新
Difussion Model是在pixel space进行加噪和去噪训练成本高昂Latent Diffuion Model将加噪和去噪都搬到了latent sapce训练成本减少能接受的condition也变多了
组成部分
Autoencoder包括encoder和decoderDenoiser将encoder的输出加噪后还原成decoder的输入Conditioning Encoder可以是任意产生一个序列tokens的encoder
输出加噪后还原成decoder的输入 3. Conditioning Encoder可以是任意产生一个序列tokens的encoder
3个部分可以分开训
