golang对共享内存的操作

不同进程间的内存是互相独立的,没办法直接互相操作对方内的数据,而共享内存则是靠操作系统提供的内存映射机制,让不同进程的一块地址空间映射到同一个虚拟内存区域上,使不同的进程可以操作到一块共用的内存块。共享内存是效率最高的进程间通讯机制,因为数据不需要在内核和程序之间复制。

共享内存用到的是系统提供的mmap函数,它可以将一个文件映射到虚拟内存的一个区域中,程序使用指针引用这个区域,对这个内存区域的操作会被回写到文件上,其函数原型如下:

  1. void *mmap(void *addr, size_t len, int prot, int flags, int fd, off_t offset);
  • 参数fd为即将映射到进程空间的文件描述字,一般由open()返回,同时,fd可以指定为-1,此时须指定flags参数中的MAP_ANON,表明进行的是匿名映射(不涉及具体的文件名,避免了文件的创建及打开,很显然只能用于具有亲缘关系的进程间通信)。
  • len是映射到调用进程地址空间的字节数,它从被映射文件开头offset个字节开始算起。
  • prot参数指定共享内存的访问权限。可取如下几个值的或:PROT_READ(可读),PROT_WRITE(可写),PROT_EXEC(可执行),PROT_NONE(不可访问)。
  • flags由以下几个常值指定:MAP_SHARED, MAP_PRIVATE, MAP_FIXED。其中,MAP_SHARED,MAP_PRIVATE必选其一,而MAP_FIXED则不推荐使用。 如果指定为MAP_SHARED,则对映射的内存所做的修改同样影响到文件。如果是MAP_PRIVATE,则对映射的内存所做的修改仅对该进程可见,对文件没有影响。
  • offset参数一般设为0,表示从文件头开始映射。
  • 参数addr指定文件应被映射到进程空间的起始地址,一般被指定一个空指针,此时选择起始地址的任务留给内核来完成。函数的返回值为最后文件映射到进程空间的地址,进程可直接操作起始地址为该值的有效地址。

顺带介绍一下shm_open和shm_unlink两个函数:

shm_open()函数:

  • 功能: 打开或创建一个共享内存区
  • 头文件: #include
  • 函数原形: int shm_open(const char *name,int oflag,mode_t mode);
  • 返回值: 成功返回0,出错返回-1
  • 参数:
    name 共享内存区的名字
    oflag 标志位
    mode 权限位
  • 参数解释:oflag参数必须含有O_RDONLY和O_RDWR标志,还可以指定如下标志:O_CREAT,O_EXCL或O_TRUNC.mode参数指定权限位,
    它指定O_CREAT标志的前提下使用。shm_open的返回值是一个整数描述字,它随后用作mmap的第五个参数。

shm_unlink()函数

  • 功能: 删除一个共享内存区
  • 头文件: #include
  • 函数原形: int shm_unlink(const char *name);
  • 参数: name 共享内存区的名字
  • 返回值: 成功返回0,出错返回-1

shm_unlink函数删除一个共享内存区对象的名字,删除一个名字仅仅防止后续的open,mq_open或sem_open调用取得成功。

可以参考此文章的介绍来进一步了解mmap等函数:http://www.cnblogs.com/polestar/archive/2012/04/23/2466022.html

可以利用golang调用cgo的方法实现c中的mmap。实验分为读和写两个程序,这样我们可以观察到读进程可以读到写进程写入共享内存的信息。

shm_writer.go代码示例:

  1. package main
  2. /*
  3. #cgo linux LDFLAGS: -lrt
  4. #include <fcntl.h>
  5. #include <unistd.h>
  6. #include <sys/mman.h>
  7. #define FILE_MODE (S_IRUSR | S_IWUSR | S_IRGRP | S_IROTH)
  8. int my_shm_new(char *name) {
  9. shm_unlink(name);
  10. return shm_open(name, O_RDWR|O_CREAT|O_EXCL, FILE_MODE);
  11. }
  12. */
  13. import "C"
  14. import (
  15. "fmt"
  16. "unsafe"
  17. )
  18. const SHM_NAME = "my_shm"
  19. const SHM_SIZE = 4 * 1000 * 1000 * 1000
  20. type MyData struct {
  21. Col1 int
  22. Col2 int
  23. Col3 int
  24. }
  25. func main() {
  26. fd, err := C.my_shm_new(C.CString(SHM_NAME))
  27. if err != nil {
  28. fmt.Println(err)
  29. return
  30. }
  31. C.ftruncate(fd, SHM_SIZE)
  32. ptr, err := C.mmap(nil, SHM_SIZE, C.PROT_READ|C.PROT_WRITE, C.MAP_SHARED, fd, 0)
  33. if err != nil {
  34. fmt.Println(err)
  35. return
  36. }
  37. C.close(fd)
  38. data := (*MyData)(unsafe.Pointer(ptr))
  39. data.Col1 = 100
  40. data.Col2 = 876
  41. data.Col3 = 8021
  42. }

shm_reader.go代码示例:

  1. package main
  2. /*
  3. #cgo linux LDFLAGS: -lrt
  4. #include <fcntl.h>
  5. #include <unistd.h>
  6. #include <sys/mman.h>
  7. #define FILE_MODE (S_IRUSR | S_IWUSR | S_IRGRP | S_IROTH)
  8. int my_shm_open(char *name) {
  9. return shm_open(name, O_RDWR, FILE_MODE);
  10. }
  11. */
  12. import "C"
  13. import (
  14. "fmt"
  15. "unsafe"
  16. )
  17. const SHM_NAME = "my_shm"
  18. const SHM_SIZE = 4 * 1000 * 1000 * 1000
  19. type MyData struct {
  20. Col1 int
  21. Col2 int
  22. Col3 int
  23. }
  24. func main() {
  25. fd, err := C.my_shm_open(C.CString(SHM_NAME))
  26. if err != nil {
  27. fmt.Println(err)
  28. return
  29. }
  30. ptr, err := C.mmap(nil, SHM_SIZE, C.PROT_READ|C.PROT_WRITE, C.MAP_SHARED, fd, 0)
  31. if err != nil {
  32. fmt.Println(err)
  33. return
  34. }
  35. C.close(fd)
  36. data := (*MyData)(unsafe.Pointer(ptr))
  37. fmt.Println(data)
  38. }

上面的程序映射了一块4G的虚拟内存,用来证明mmap没有实际占用4G内存,而是用到了虚拟内存。shm_writer创建好共享内存以后,往内存区域写入了一个结构体,shm_reader则读出一个结构体。

上面代码中还用到一个cgo的技巧,像shm_open和mmap函数在错误时会返回errno,如果我们在go中使用多返回值语法,cgo会自己把错误码转换成错误信息,很方便的功能。

本文来自:开源中国博客
感谢作者:壬癸甲乙
查看原文:golang对共享内存的操作

文档更新时间: 2018-07-19 11:04   作者:Minho