每日归档： 2023年3月13日

Chatgpt相关开源库

Colossal-AI PaLM-rlhf-pytorch b站UP 何小枝天天向上： 前一个小节（ChatGPT是怎样被训练出来的？）：https://www.bilibili.com/video/BV1BG4y137SH视频中的源码：https://github.com/HarderThenHarder/transformers_tasks/tree/main/RLHFReward Model … 阅读更多

独立人工智能开发者开源自己的ChatGPT训练算法实现

人工智能研究小组LAION和 CarperAI分别发布了OpenAssistant与trlX，这些均是人类反馈强化学习 (RLHF) 的开源产品实现，用于训练ChatGPT的算法。此外，独立人工智能开发者Phil Wang也开源了自己的ChatGPT算法实现。 关于 LAION，全称为 Large-scale Artificial Intelligence Open Network，是一 … 阅读更多

打破传统GAN方法痛点！牛津大学提出轻量级的生成对抗模型

论文链接：https://arxiv.org/abs/2209.03793 写在前面 传统卷积受限于固定的几何结构，无法高效捕获空间与通道的远程依赖。本文提出的方法不仅拥有可调整的动态感受野，而且突出了像素之间的负关系。另外本文针对传统生成对抗网络，设计了一种新的生成策略，进一步稳定和加快了训练过程。 生成对抗网络（GAN）预热 本文方法致力于从高维数据分布中生成现实多样的样本，在正式步入主题之前 … 阅读更多