每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging New...

一、背景说明 各类 AI 写真软件由于其精准的个人形象+精美的生成效果引爆了朋友圈传播，证件照满足了用户刚需，古装照等风格照满足了用户“美照”的需求。 FaceChain 是一个可以用来打造个人...

编者按： 本文作者是 Hugging Face 的机器学习工程师 Régis Pierrard，并于 2023 年 3 月 28 日发布于Hugging Face Blog[1]。感谢 Régis Pierrard 授权我们翻译和转发本文。 本文介绍了如何...

大语言模型在理解和生成人类水平的文字方面所展现出的非凡能力，正在许多领域带来应用上的革新。然而，在消费级硬件上训练和部署大语言模型的需求也变得越来越难以满足。 🤗 Hugging Face...

🤗 Transformers 提供了许多最新最先进 (state-of-the-art, SoTA) 的模型，这些模型横跨多个领域及任务。为了使这些模型能以最佳性能运行，我们需要优化其推理速度及内存使用。 🤗 Hugg...

简介 基于人类反馈的强化学习 (Reinforcement Learning from Human Feedback，RLHF) 事实上已成为 GPT-4 或 Claude 等 LLM 训练的最后一步，它可以确保语言模型的输出符合人类在闲聊或安全性...

每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging New...

引言 生成式 AI 已成为游戏开发中艺术工作流的重要组成部分。然而，正如我在之前的文章: 《AI 制作 3D 素材｜基于 AI 5 天创建一个农场游戏，第 3 天》中描述的，从文本到 3D 的实用性仍落后...

前言 本系列围绕 PEFT 内置七种主流高效调参方法进行原理解析，本文先介绍相关基本概念，再对本期提到的四种 Prompt 技术（Prefix Tuning、P-Tuning、Prompt Tuning、P-Tuning v2）从技术背景...

数据点（data points）通常用于描述单个信息单位或观测值，在本文中，它被用来量化“提示词”方法相对于传统方法的效率和效果。文章比较了两种训练（微调）机器学习模型的方法：一种是使用提...

项目地址：https://github.com/beyondguo/LLM-Tuning 众所周知，整个 RLHF (基于人类反馈的强化学习) 分为这么三步： SFT (Supervised Fine-Tuning): 有监督的微调，使用正常的 instruction ...

Llama 2 是一个由 Meta 开发的大型语言模型，是 LLaMA 1 的继任者。Llama 2 可通过 AWS、Hugging Face 获取，并可以自由用于研究和商业用途。Llama 2 预训练模型在 2 万亿个标记上进行训练，...

每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging New...

今天，作为一个深度学习社区的中立家园，PyTorch 基金会宣布 Hugging Face 已加入为首要成员。 Hugging Face 一直是 PyTorch 生态系统的长期支持者和贡献者，通过提供强大的模型和资源加速了...

正式向大家介绍 TRL——Transformer Reinforcement Learning。这是一个超全面的全栈库，包含了一整套工具用于使用强化学习 (Reinforcement Learning) 训练 transformer 语言模型。从监督调优...

01 前言 🎉Firefly项目支持微调ChatGLM2模型啦，我们实现了一种比ChatGLM2官方更加充分高效的多轮对话训练方法，并且沿袭了官方的数据组织格式。 在此之前，很多同学询问Firefly项目是否支...

[更新于 2023 年 7 月 23 日: 添加 Llama 2。] 文本生成和对话技术已经出现多年了。早期的挑战在于通过设置参数和分辨偏差，同时控制好文本忠实性和多样性。更忠实的输出一般更缺少创造性，并...

社区活动 | “中文 AI 微小说大赛”正式开启报名！ , 发表于 , ,

记录一个零代码基础零游戏开发经验的个人参赛者，通过和 ChatGPT 的对话，一步步向前冒险和探索，最终完成自我 Expanding 的 48 小时。 DAY 1 参赛背景 去年底和 Hugging Face 有一次小小的合...

不要重复自己* 如何为现代机器学习设计开源库 🤗 Transformers 设计理念 “不要重复自己 (Don’t Repeat Yourself)” ，或 DRY，是广为人知的软件开发原则。该原则出自《程序员修炼之道: 从...