直方图均衡
直方图均衡（Histogram Equalization） 1. 灰度变换前后直方图的关系 灰度变换 DB=f(DA)D_B=f(D_A) DB=f(DA) 灰度变换后灰度直方图的关系 对于某一灰度值，其直方图数值和灰度变化后对于的灰度值的直方图数值相同 ∫DBDB+ΔDBHB(DB)dD=∫DADA+ΔDAHA(DA)dD\int_{D_B}^{D_B+\Delta D_B}H_B
gdown：解决在 Google Drive 上下载大型数据集常发生的失败现象
gdown：解决在 Google Drive 上下载大型数据集常发生的失败现象 Github 官网：https://github.com/wkentaro/gdown 安装 1234pip install gdown# to upgradepip install --upgrade gdown 使用 通过链接下载（大文件~500MB） 123$ gdown https://drive.go
LLM自动评价方法
大语言模型自动评价方法 LLM的自动评估是一种常见的，可能也是最受欢迎的评估方法，通常使用标准度量或指标以及评估工具来评估模型的性能，如准确性、BLEU（Papineni et al.，2002）、ROUGE（Lin，2004）、BERTScore（Zhang et al.，2019）等。由于其主观性、自动计算性和简单性，大多数现有的评估工作都采用了这种评估协议。因此，大多数确定性任务，如自然语言
神经网络训练
神经网络训练 General Guidance Model Bias The model is too simple. find a needle in a haystack, but there is no needle Solution: redesign your model to make it more flexible More features Deep Learning
Diffusion Model
Diffusion Model Diffusion Model 是如何运作的？ 将噪声输入Denoise Model T 次生成干净的图像，步骤数t（噪声的程度）一同输入Denoise Model Denoise 模组内部实际做的事情 产生输入图片的杂序，再将图片减去杂序 为什么不直接训练一个生成图像的模型？难度更大 如何训练 Noise Predictor Forward Process (
Linux命令大全
Linux 常用操作命令大全 https://blog.csdn.net/m0_46422300/article/details/104645072 一、基础知识 1.1 Linux系统的文件结构 123456789101112131415161718/bin 二进制文件，系统常规命令/boot 系统启动分区，系统启动时读取的文件/dev 设备文件/etc
训练奖励模型
训练奖励模型 因为之前找的训练好的奖励模型不能在ColossalAI中的强化学习阶段使用，并且是用纯英文数据集训练的，因此我们用ColossalAI的代码和中文数据集训练了奖励模型。 数据集 基于anthropic的Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback 论文
Proximal Policy Optimization (PPO)
Proximal Policy Optimization (PPO) Policy Gradient τ={s1,a1,s2,a2,⋯ ,sT,aT}\tau=\left\{s_1, a_1, s_2, a_2, \cdots, s_T, a_T\right\} τ={s1,a1,s2,a2,⋯,sT,aT} 当参数是θ\thetaθ的时候某一个 trajectory 回合里面发生τ\