当前位置: 代码网 > it编程>前端脚本>Golang > 详解Golang中使用map时的注意问题

详解Golang中使用map时的注意问题

2024年07月05日 Golang 我要评论
1. 将value定义为struct节省内存1. 消除指针引用当map的 value 是 struct 类型时,数据会直接存储在 map 中,而不是通过指针引用。这可以减少内存分配的开销和 gc(垃圾

1. 将value定义为struct节省内存

1. 消除指针引用

当 map 的 value 是 struct 类型时,数据会直接存储在 map 中,而不是通过指针引用。这可以减少内存分配的开销和 gc(垃圾回收)的负担。

type user struct {
    id   int
    name string
}

m := make(map[string]user)
m["user1"] = user{id: 1, name: "john"}

// example with pointer to struct
m2 := make(map[string]*user)
m2["user1"] = &user{id: 1, name: "john"}

在第二个示例中,map 中存储的是指向 user 结构体的指针,这意味着除了存储指针本身外,还需要额外的内存来存储 user 结构体,并且会增加 gc 的负担。

2. 避免内存碎片化

存储指针时,由于指针可能指向堆中的不同位置,这会导致内存碎片化,增加了内存使用的不确定性。而存储 struct 使得数据更紧凑,减少了碎片化。

3. 更高的缓存命中率

由于 struct 的数据是紧凑存储的,相对于存储指针,struct 的数据更可能在相邻的内存位置。这增加了 cpu 缓存的命中率,从而提高了性能。

示例:节约内存

下面是一个示例,展示了如何通过定义 struct 类型来节约内存:

package main

import (
	"fmt"
	"runtime"
)

type user struct {
	id   int
	name string
}

func main() {
	// 使用 struct 作为 value
	users := make(map[string]user)
	for i := 0; i < 1000000; i++ {
		users[fmt.sprintf("user%d", i)] = user{id: i, name: fmt.sprintf("name%d", i)}
	}

	printmemusage("with struct values")

	// 使用指针作为 value
	userptrs := make(map[string]*user)
	for i := 0; i < 1000000; i++ {
		userptrs[fmt.sprintf("user%d", i)] = &user{id: i, name: fmt.sprintf("name%d", i)}
	}

	printmemusage("with pointer values")
}

func printmemusage(label string) {
	var m runtime.memstats
	runtime.readmemstats(&m)
	fmt.printf("%s: alloc = %v mib\n", label, btomb(m.alloc))
}

func btomb(b uint64) uint64 {
	return b / 1024 / 1024
}

4. set实现对比

map[int]bool{}

在这种情况下,map 的 value 类型是 bool。每个键会占用一个 bool 类型的空间(通常是一个字节)。

set := make(map[int]bool)
set[1] = true
set[2] = true

map[int]struct{}{}

在这种情况下,map 的 value 类型是空的 struct。空的 struct 不占用任何内存,因此每个键只占用键本身的内存。

set := make(map[int]struct{})
set[1] = struct{}{}
set[2] = struct{}{}

内存使用对比

map[int]bool{} 会比 map[int]struct{}{} 使用更多的内存,因为 bool 类型需要存储一个字节(在实际应用中可能会有额外的内存对齐和管理开销),而 struct{} 是空的,不会增加任何内存开销。

示例代码对比内存使用

以下是一个示例代码,比较这两种 map 类型的内存使用情况:

package main

import (
	"fmt"
	"runtime"
)

func main() {
	// 使用 bool 作为 value
	boolmap := make(map[int]bool)
	for i := 0; i < 1000000; i++ {
		boolmap[i] = true
	}

	printmemusage("with bool values")

	// 使用 struct 作为 value
	structmap := make(map[int]struct{})
	for i := 0; i < 1000000; i++ {
		structmap[i] = struct{}{}
	}

	printmemusage("with struct values")
}

func printmemusage(label string) {
	var m runtime.memstats
	runtime.readmemstats(&m)
	fmt.printf("%s: alloc = %v mib\n", label, btomb(m.alloc))
}

func btomb(b uint64) uint64 {
	return b / 1024 / 1024
}

结果

运行上述代码,你会发现使用 struct 作为 value 的内存使用量明显小于使用指针作为 value 的内存使用量。这是因为:

  • 减少了指针的存储开销
  • 减少了额外的堆内存分配
  • 降低了 gc 的负担,因为 struct 的内存管理更简单,不涉及指针的追踪和回收。

2. 哈希分桶的结构

1. 哈希计算

当我们向map中插入一个键值对,首先对键进行哈希计算。go内置了哈希函数来计算键的哈希值。哈希值是一个64位的整数。

2. 分桶依据

go 中的 map 是分成多个桶 (bucket) 来存储的。桶的数量通常是 2 的幂次,这样可以方便地通过位运算来定位到具体的桶。哈希值的高八位和低八位分别用于分桶和桶内定位:

  • 高八位 (top 8 bits):用于决定哈希表中的桶位置。
  • 低八位 (low 8 bits):用于桶内查找。

3. 桶 (bucket) 结构

每个桶中可以存储 8 个键值对。当某个桶中的元素超过 8 个时,go 会使用溢出桶来存储额外的键值对。桶的结构如下:

type bmap struct {
    tophash [bucketcnt]uint8
    keys    [bucketcnt]keytype
    values  [bucketcnt]valuetype
    overflow *bmap
}

tophash:存储键的哈希值的高八位。

keys:存储键。

values:存储对应的值。

overflow:指向溢出桶的指针。

4. 插入过程

当插入一个键值对时,过程如下:

  1. 计算哈希值:对键进行哈希计算得到哈希值 hash
  2. 定位桶:通过 hash >> (64 - b)b 是桶的数量的对数)得到桶的索引 index
  3. 桶内查找:通过 hash & (bucketcnt - 1) 得到桶内索引。然后通过对比 tophash 数组中的值来定位到具体的键值对存储位置。
  4. 存储键值对:将键值对存储到相应的位置,如果当前桶已满,则分配新的溢出桶来存储额外的键值对。

5. 查找过程

查找的过程与插入类似:

查找的过程与插入类似:

  1. 计算哈希值:对键进行哈希计算得到哈希值 hash
  2. 定位桶:通过 hash >> (64 - b) 得到桶的索引 index
  3. 桶内查找:通过 hash & (bucketcnt - 1) 得到桶内索引,然后在相应的 bmap 中查找 tophash 和 keys 数组中匹配的键。如果在当前桶中没有找到,则继续查找溢出桶。

3. map扩容过程

1. 扩容触发条件

扩容通常在以下两种情况下触发:

扩容通常在以下两种情况下触发:

  1. 装载因子过高:装载因子(load factor)是 map 中元素数量与桶数量的比值。go 语言中的装载因子阈值通常为 6.5,当装载因子超过这个值时会触发扩容。
  2. 溢出桶过多:当溢出桶的数量过多时,也会触发扩容。

2. 扩容过程的具体步骤

  1. 初始化新的桶数组: 在需要扩容时,go 会分配一个新的桶数组,其大小通常是旧桶数组的两倍,并设置相关的元数据以指示 map 正在进行扩容。
  2. 标记迁移状态: 在 map 的内部结构中,会有一个标志位(rehash index)指示当前已经迁移的桶位置。初始值为 0。
  3. 迁移部分数据: 在每次对 map 进行插入或查找操作时,会顺便迁移一部分旧桶中的数据到新桶中。每次迁移一个或多个桶,具体数量取决于操作的复杂度。
  4. 更新 rehash index: 迁移完成后,更新 rehash index,以便下次操作继续迁移下一个桶中的数据。
  5. 完成扩容: 当所有旧桶的数据都迁移到新桶后,更新 map 的元数据,指向新的桶数组,并将扩容状态标志位清除。

4. recover map的panic

panic 和 recover 的工作机制

  1. panic
    • panic 用于引发一个恐慌,通常在遇到无法恢复的严重错误时使用。
    • 当 panic 被调用时,程序的正常执行流程会被中断,并开始沿着调用栈向上展开,逐层调用函数的 defer 语句,直到遇到 recover 或者程序崩溃。
  2. recover
    • recover 用于恢复程序的正常执行,通常在 defer 函数中调用。
    • 如果在 defer 语句中调用了 recover,并且当前栈帧处于恐慌状态,那么 recover 会捕获这个恐慌,停止栈的展开,并返回传给 panic 的值。
    • 如果不在恐慌状态下调用 recover,它会返回 nil,不做任何处理。

在 go 语言中,panic 和 recover 是用来处理异常情况和错误恢复的两种机制。理解它们的工作原理对于编写健壮的 go 代码非常重要。以下是对 panic 和 recover 机制的详细解释以及它们在 map 中的应用。

panic 和 recover 的工作机制

  1. panic
    • panic 用于引发一个恐慌,通常在遇到无法恢复的严重错误时使用。
    • 当 panic 被调用时,程序的正常执行流程会被中断,并开始沿着调用栈向上展开,逐层调用函数的 defer 语句,直到遇到 recover 或者程序崩溃。
  2. recover
    • recover 用于恢复程序的正常执行,通常在 defer 函数中调用。
    • 如果在 defer 语句中调用了 recover,并且当前栈帧处于恐慌状态,那么 recover 会捕获这个恐慌,停止栈的展开,并返回传给 panic 的值。
    • 如果不在恐慌状态下调用 recover,它会返回 nil,不做任何处理。

在 map 中使用 panic 和 recover

在 go 的 map 中,某些操作(如并发读写未加锁的 map)会引发 panic。这些 panic 可以被 recover 捕获和处理,以防止程序崩溃。

package main

import (
    "fmt"
)

func main() {
    defer func() {
        if r := recover(); r != nil {
            fmt.println("recovered from panic:", r)
        }
    }()

    // 创建一个 map
    m := make(map[string]string)

    // 引发 panic 的操作
    causepanic(m)

    fmt.println("this line will be executed because panic was recovered.")
}

func causepanic(m map[string]string) {
    // 这里尝试并发访问 map,可能会引发 panic
    // 模拟并发问题,直接引发 panic
    panic("simulated map access panic")
}

5. map是如何检测到自己处于竞争状态

在 go 语言中,map 的竞争状态(concurrent access)指的是多个 goroutine 同时读写同一个 map 而没有适当的同步保护。go 内置的 map 类型在并发读写时会引发 panic,以防止数据竞争和未定义行为。这种检测主要是通过 go 编译器和运行时的实现来完成的,而不是底层硬件直接支持的功能。

竞争检测机制

  1. 编译器插桩
    • 在编译时,go 编译器会在对 map 进行读写操作的代码位置插入特定的检测代码。这些检测代码在运行时检查 map 是否处于并发访问状态。
  2. 运行时检查
    • 运行时的检测代码会追踪 map 的访问。当检测到多个 goroutine 同时对 map 进行读写操作时,会引发 panic。具体来说,go 运行时会记录每个 map 的访问情况,如果检测到并发访问没有通过同步机制(如 sync.mutex),就会引发 panic。
package main

import (
    "fmt"
    "sync"
)

func main() {
    m := make(map[int]int)
    var wg sync.waitgroup
    var mu sync.mutex

    // 启动多个 goroutine 并发写 map,未加锁保护会引发 panic
    for i := 0; i < 10; i++ {
        wg.add(1)
        go func(i int) {
            defer wg.done()
            // 取消注释以下行,查看未加锁保护的并发写操作
            // m[i] = i

            // 使用互斥锁保护并发写操作
            mu.lock()
            m[i] = i
            mu.unlock()
        }(i)
    }

    wg.wait()

    // 打印 map 内容
    mu.lock()
    for k, v := range m {
        fmt.printf("key: %d, value: %d\n", k, v)
    }
    mu.unlock()
}

6. sync.map和map加锁的区别

    • 使用场景
      • sync.map 适用于读多写少的并发场景,简单且高效。
      • 使用 sync.mutex 或 sync.rwmutex 保护普通 map 适用于需要复杂并发控制或写操作较多的场景。
    • 性能
      • sync.map 在读多写少的情况下性能优越,但在写操作频繁时性能可能不如使用互斥锁保护的普通 map。
      • 使用 sync.mutex 或 sync.rwmutex 可以在读写操作间提供更好的性能平衡,尤其是在写操作较多时。
    • 复杂性
      • sync.map 封装了并发控制,使用简单,不需要手动加锁。
      • 使用 sync.mutex 或 sync.rwmutex 需要手动加锁解锁,代码相对复杂,但更灵活。
    • 方法支持
      • sync.map 提供了一些特殊的方法(如 loadorstorerange),方便特定场景下的使用。
      • 使用 sync.mutex 或 sync.rwmutex 保护的普通 map 可以自由定义自己的方法,更灵活,但需要更多的代码。

以上就是详解golang中使用map时的注意问题的详细内容,更多关于golang使用map的资料请关注代码网其它相关文章!

(0)

相关文章:

版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 2386932994@qq.com 举报,一经查实将立刻删除。

发表评论

验证码:
Copyright © 2017-2025  代码网 保留所有权利. 粤ICP备2024248653号
站长QQ:2386932994 | 联系邮箱:2386932994@qq.com