Redis String底层实现
Redis使用自己的简单动态字符串(simple dynamic string, SDS)的抽象类型。Redis中,默认以SDS作为自己的字符串表示。 只有在一些字符串不可能出现变化的地方使用C字符串。
SDS的定义如下:
struct sdshdr {
// 用于记录buf数组中使用的字节的数目
// 和SDS存储的字符串的长度相等
int len;
// 用于记录buf数组中没有使用的字节的数目
int free;
// 字节数组,用于储存字符串
char buf[]; //buf的大小等于len+free+1,其中多余的1个字节是用来存储’\0’的。
};
SDS除了用来保存数据库中的字符串之外,SDS还被用作缓冲区(buffer),如AOF模块中的AOF缓冲区,以及客户端状态中的输入缓冲区
SDS 的存储示例:
使用SDS而不使用c语言的string的好处:
常数复杂度获取字符串长度
C语言中:字符串只是简单的字符的数组,当使用strlen获取字符串长度的时候,内部其实是直接顺序遍历数组的内容,找到对应的’\0’对应的字符,从而计算出字符串的长度。即O(N)。
SDS:只需要访问SDS的len属性就能得到字符串的长度,复杂度为O(1)。
杜绝缓冲区溢出
Redis是C语言编写的,并没有方便的数据类型来进行内存的分配和释放(C++ STL String),必须手动进行内存分配和释放。
对于字符串的拼接、复制等操作,C语言开发者必须确保目标字符串的空间足够大,不然就会出现溢出的情况。
当使用SDS的API对字符串进行修改的时候,
- API内部第一步会检测字符串的大小是否满足。
- 如果空间已经满足要求,那么就像C语言一样操作即可。如果不满足,则拓展buf的空间
- 之后再进行操作。每次操作之后,len和free的值会做相应的修改。
- 扩展buf空间策略:
- 修改之后总长度len<1MB: 总空间为2*len+1;
- 修改之后总长度len>=1MB: 总空间为len+1MB+1。
- 换句话说,预分配的空间上限是1MB,尽量为len。
减少修改字符串时带来的内存重分配次数
Redis主要通过以下两种策略来处理内存问题。
- 字符串长度增加操作时,进行空间预分配
字符串长度减少操作时,惰性空间释放
- 当执行字符串长度缩短的操作的时候,SDS并不直接重新分配多出来的字节,而是修改len和free的值(len相应减小,free相应增大,buf的空间大小不变化),避免内存重分配。
- SDS也提供直接释放未使用空间的API,在需要的时候,也能真正的释放掉多余的空间。
二进制安全
C字符串除了末尾之外不能出现空字符,否则会被程序认为是字符串的结尾。这就使得C字符串只能存储文本数据,而不能保存图像,音频等二进制数据。
使用SDS就不需要依赖控制符,而是用len来指定存储数据的大小,所有的SDS API都会以处理二进制的方式来处理SDS的buf的数据。程序不会对buf的数据做任何限制、过滤或假设,数据写入的时候是什么,读取的时候依然不变。
兼容部分C字符串函数
SDS的buf的定义(字符串末尾为’\0’)和C字符串完全相同,因此很多的C字符串的操作都是适用于SDS->buf的。比如当buf里面存的是文本字符串的时候,大多数通过调用C语言的函数就可以。
总结
C字符串 | SDS |
---|---|
获取字符串长度的复杂度为O(N) | 可以使用所有库中的函数 |
API是不安全的,可能会造成缓冲区溢出 | API是安全的,不会造成缓冲区溢出 |
修改字符串长度N次必然需要执行N次内存重分配 | 修改字符串长度N次最多需要执行N次内存重分配 |
只能保存文本数据 | 可以保存文本或者二进制数据 |
可以使用所有库中的函数 | 可以使用一部分库的函数 |