大型语言模型（LLM）已在众多领域得到广泛应用。基于人类反馈的强化学习（RLHF）通过奖励模型（RM）使LLM行为与人类价值观对齐。这使得奖励模型的准确性、可靠性和可解释性成为实现有效对齐的关键。然而传统奖励模型缺乏可解释性，难以洞察奖励分配背后 ...

6月7日凌晨，OpenAI在官网开源了GPT-4的稀疏自动编码器（Sparse AutoEncoder，简称“SAE”）。 虽然现在大模型的功能越来越强，能生成文本、图片、视频、音频等内容，但是你无法控制神经网络生成的内容，例如，你问ChatGPT多个相同的问题，可能每一次回答的内容都 ...

Sora是OpenAI于2024年2月发布的“文本到视频”生成式人工智能（AI）模型。 在视觉生成领域，Sora取得了技术上的突破。Sora模型独特之处在于，能够生成长达一分钟的符合用户文本指令的视频，同时保持较高的视觉质量和引人注目的视觉连贯性。与只能生成短视频 ...

去噪扩散模型（DDM）是当前图像生成技术的一大主流方法。近日，Xinlei Chen、Zhuang Liu、谢赛宁与何恺明四人团队对 DDM 进行了解构研究 —— 通过层层剥离其组件，DDM 的生成能力不断下降，但其表征学习能力却能得到一定的维持。这表明 DDM 的某些组件可能对表征 ...

去噪自动编码器（DenoisingAutoencoder，简称DAE）是一种无监督学习算法，用于对数据进行降噪和特征提取。它是自动编码器的一种变种，通过在输入数据中引入噪声，并尝试还原原始数据的过程，实现了对噪声的去除和恢复数据的功能。本文将介绍去噪自动编码器 ...

2021.11.19: 补充：后来通过了解知道，我这种写法叫做 Convolutional-AutoEncoder。（真让人害羞( ‿ )） 这个模型结构其实是SegNet，而且恰巧也在了解Auto-Encoder，所以当看到这个图的时候，突然就有了想自己尝试写一下的冲动。 于是第一次尝试就是看着这个图写 ...

自动编码器(AutoEncoder)是神经网络的一种,一般来讲自动编码器包括两部分:编码器和解码器,编码器和解码器相互串联合作,实现数据的降维或特征学习,现在也广泛用于生成模型中. 自编码神经网络是一种**无监督机器学习**算法，自动编码器训练的目的是将输入的 ...