Low Rank Adaptation（低秩适配）

一个矩阵的秩是指矩阵中线性独立行或列的最大数。一个矩阵的秩越大，它的信息含量就越大。

低秩适配：把一个秩比较大的矩阵变成一个秩比较小的矩阵。

通常对于LoRA的秩设定为4~128，并不是越大越好。