9.12 Go context包的分析

context是Go语言官方定义的一个包,称之为上下文。

Go中的context包在与API和慢进程交互时可以派上用场,特别是在提供Web请求的生产级系统中。在哪里,您可能想要通知所有goroutines停止工作并返回。

这是一个基本教程,介绍如何在项目中使用它以及一些最佳实践和陷阱。

先决条件

在了解上下文之前,请先了解以下概念

Context

在Go语言中 context 包允许您传递一个 “context” 到您的程序,如超时或截止日期(deadline)或通道(channel),以及指示停止运行和返回等。例如,如果您正在执行Web请求或运行系统命令,那么对生产级系统进行超时控制通常是个好主意。因为,如果您依赖的API运行缓慢,您不希望在系统上备份请求,这可能最终会增加负载并降低您所服务的所有请求的性能。导致级联效应。这是超时或截止日期context可以派上用场的地方。

这里我们先来分析context源码( https://golang.org/src/context/context.go)。

context包的核心就是Context接口,其定义如下:

  1. type Context interface {
  2. Deadline() (deadline time.Time, ok bool)
  3. Done() <-chan struct{}
  4. Err() error
  5. Value(key interface{}) interface{}
  6. }

这个接口共有4个方法:

  • Deadline`方法是获取设置的截止时间的意思,第一个返回式是截止时间,到了这个时间点,Context会自动发起取消请求;第二个返回值ok==false时表示没有设置截止时间,如果需要取消的话,需要调用取消函数进行取消。
  • Done方法返回一个只读的chan,类型为struct{},我们在goroutine中,如果该方法返回的chan可以读取,则意味着parent context已经发起了取消请求,我们通过Done方法收到这个信号后,就应该做清理操作,然后退出goroutine,释放资源。
  • Err方法返回取消的错误原因,因为什么Context被取消。
  • Value方法获取该Context上绑定的值,是一个键值对,所以要通过一个Key才可以获取对应的值,这个值一般是线程安全的。但使用这些数据的时候要注意同步,比如返回了一个map,而这个map的读写则要加锁。

以上四个方法中常用的就是Done了,如果Context取消的时候,我们就可以得到一个关闭的chan,关闭的chan是可以读取的,所以只要可以读取的时候,就意味着收到Context取消的信号了,以下是这个方法的经典用法。

  1. func Stream(ctx context.Context, out chan<- Value) error {
  2. for {
  3. v, err := DoSomething(ctx)
  4. if err != nil {
  5. return err
  6. }
  7. select {
  8. case <-ctx.Done():
  9. return ctx.Err()
  10. case out <- v:
  11. }
  12. }
  13. }

Context接口并不需要我们实现,Go内置已经帮我们实现了2个(Background、TODO),我们代码中最开始都是以这两个内置的作为最顶层的partent context(即根context),衍生出更多的子Context。

  1. var (
  2. background = new(emptyCtx)
  3. todo = new(emptyCtx)
  4. )
  5. func Background() Context {
  6. return background
  7. }
  8. func TODO() Context {
  9. return todo
  10. }

Background:主要用于main函数、初始化以及测试代码中,作为Context这个树结构的最顶层的Context,也就是根Context。

TODO:在还不确定使用context的场景,可能当前函数以后会更新以便使用 context。

这两个函数的本质是emptyCtx结构体类型。

  1. type emptyCtx int
  2. func (*emptyCtx) Deadline() (deadline time.Time, ok bool) {
  3. return
  4. }
  5. func (*emptyCtx) Done() <-chan struct{} {
  6. return nil
  7. }
  8. func (*emptyCtx) Err() error {
  9. return nil
  10. }
  11. func (*emptyCtx) Value(key interface{}) interface{} {
  12. return nil
  13. }

这就是emptyCtx实现Context接口的方法,可以看到,这些方法什么都没做,返回的都是nil或者零值。

context衍生节点

有上面的根context,那么是如何衍生更多的子Context的呢?这就要靠context包为我们提供的With系列的函数了。

1、取消函数

  1. func WithCancel(parent Context) (ctx Context, cancel CancelFunc)

此函数接收一个parent Context参数,父 context 可以是后台 context 或传递给函数的 context。

返回派生 context 和取消函数。只有创建它的函数才能调用取消函数来取消此 context。如果您愿意,可以传递取消函数,但是,强烈建议不要这样做。这可能导致取消函数的调用者没有意识到取消 context 的下游影响。可能存在源自此的其他 context,这可能导致程序以意外的方式运行。简而言之,永远不要传递取消函数。

示例

  1. package main
  2. import (
  3. "fmt"
  4. "time"
  5. "golang.org/x/net/context"
  6. )
  7. func main() {
  8. //创建一个可取消子context,context.Background():返回一个空的Context,这个空的Context一般用于整个Context树的根节点。
  9. ctx, cancel := context.WithCancel(context.Background())
  10. go func(ctx context.Context) {
  11. for {
  12. select {
  13. //使用select调用<-ctx.Done()判断是否要结束
  14. case <-ctx.Done():
  15. fmt.Println("goroutine exit")
  16. return
  17. default:
  18. fmt.Println("goroutine running.")
  19. time.Sleep(2 * time.Second)
  20. }
  21. }
  22. }(ctx)
  23. time.Sleep(10 * time.Second)
  24. fmt.Println("main fun exit")
  25. //取消context
  26. cancel()
  27. time.Sleep(5 * time.Second)
  28. }

2、超时控制

  1. func WithDeadline(parent Context, deadline time.Time) (Context, CancelFunc):

此函数返回其父项的派生 context,当截止日期超过或取消函数被调用时,该 context 将被取消。例如,您可以创建一个将在以后的某个时间自动取消的 context,并在子函数中传递它。当因为截止日期耗尽而取消该 context 时,获此 context 的所有函数都会收到通知去停止运行并返回。

示例

  1. package main
  2. import (
  3. "fmt"
  4. "golang.org/x/net/context"
  5. "time"
  6. )
  7. func main() {
  8. d := time.Now().Add(2 * time.Second)
  9. //设置超时控制WithDeadline,超时时间2
  10. ctx, cancel := context.WithDeadline(context.Background(), d)
  11. defer cancel()
  12. select {
  13. case <-time.After(3 * time.Second):
  14. fmt.Println("timeout")
  15. case <-ctx.Done():
  16. //2到了到了,执行该代码
  17. fmt.Println(ctx.Err())
  18. }
  19. }

3、超时控制

  1. func WithTimeout(parent Context, timeout time.Duration) (Context, CancelFunc):

此函数类似于 context.WithDeadline。不同之处在于它将持续时间作为参数输入而不是时间对象。此函数返回派生 context,如果调用取消函数或超出超时持续时间,则会取消该派生 context。

  1. package main
  2. import (
  3. "fmt"
  4. "golang.org/x/net/context"
  5. "time"
  6. )
  7. func main() {
  8. //设置超时控制WithDeadline,超时时间2
  9. ctx, cancel := context.WithTimeout(context.Background(), 2*time.Second)
  10. defer cancel()
  11. select {
  12. case <-time.After(3 * time.Second):
  13. fmt.Println("timeout")
  14. case <-ctx.Done():
  15. //2到了到了,执行该代码
  16. fmt.Println(ctx.Err())
  17. }
  18. }

4、返回派生的context

  1. func WithValue(parent Context, key, val interface{}) Context

此函数接收 context 并返回派生 context,其中值 val 与 key 关联,并通过 context 树与 context 一起传递。这意味着一旦获得带有值的 context,从中派生的任何 context 都会获得此值。不建议使用 context 值传递关键参数,而是函数应接收签名中的那些值,使其显式化。

示例

  1. package main
  2. import (
  3. "context"
  4. "fmt"
  5. )
  6. func Route(ctx context.Context) {
  7. ret, ok := ctx.Value("id").(int)
  8. if !ok {
  9. ret = 1
  10. }
  11. fmt.Printf("id:%d\n", ret)
  12. s, _ := ctx.Value("name").(string)
  13. fmt.Printf("name:%s\n", s)
  14. }
  15. func main() {
  16. ctx := context.WithValue(context.Background(), "id", 123)
  17. ctx = context.WithValue(ctx, "name", "jerry")
  18. Route(ctx)
  19. }

在函数中接受和使用context

在下面的示例中,您可以看到接受context的函数启动goroutine并等待返回该goroutine或取消该context。select语句帮助我们选择先发生的任何情况并返回。

<-ctx.Done()关闭“完成”通道后,将case <-ctx.Done():选中该通道。一旦发生这种情况,该功能应该放弃工作并准备返回。这意味着您应该关闭所有打开的管道,释放资源并从函数返回。有些情况下,释放资源可以阻止返回,比如做一些挂起的清理等等。在处理context返回时,你应该注意任何这样的可能性。

本节后面的示例有一个完整的go程序,它说明了超时和取消功能。

  1. //Function that does slow processing with a context
  2. //Note that context is the first argument
  3. func sleepRandomContext(ctx context.Context, ch chan bool) {
  4. //Cleanup tasks
  5. //There are no contexts being created here
  6. //Hence, no canceling needed
  7. defer func() {
  8. fmt.Println("sleepRandomContext complete")
  9. ch <- true
  10. }()
  11. //Make a channel
  12. sleeptimeChan := make(chan int)
  13. //Start slow processing in a goroutine
  14. //Send a channel for communication
  15. go sleepRandom("sleepRandomContext", sleeptimeChan)
  16. //Use a select statement to exit out if context expires
  17. select {
  18. case <-ctx.Done():
  19. //If context expires, this case is selected
  20. //Free up resources that may no longer be needed because of aborting the work
  21. //Signal all the goroutines that should stop work (use channels)
  22. //Usually, you would send something on channel,
  23. //wait for goroutines to exit and then return
  24. //Or, use wait groups instead of channels for synchronization
  25. fmt.Println("Time to return")
  26. case sleeptime := <-sleeptimeChan:
  27. //This case is selected when processing finishes before the context is cancelled
  28. fmt.Println("Slept for ", sleeptime, "ms")
  29. }
  30. }

例子

到目前为止,我们已经看到使用 context 可以设置截止日期,超时或调用取消函数来通知所有使用任何派生 context 的函数来停止运行并返回。以下是它如何工作的示例:

main 函数

  • 用 cancel 创建一个 context
  • 随机超时后调用取消函数

doWorkContext 函数

  • 派生一个超时 context
  • 这个 context 将被取消当
    • main 调用取消函数或
    • 超时到或
    • doWorkContext 调用它的取消函数
  • 启动 goroutine 传入派生context执行一些慢处理
  • 等待 goroutine 完成或context被 main goroutine 取消,以优先发生者为准

sleepRandomContext 函数

  • 开启一个 goroutine 去做些缓慢的处理
  • 等待该 goroutine 完成或,
  • 等待 context 被 main goroutine 取消,操时或它自己的取消函数被调用

sleepRandom 函数

  • 随机时间休眠
  • 此示例使用休眠来模拟随机处理时间,在实际示例中,您可以使用通道来通知此函数,以开始清理并在通道上等待它,以确认清理已完成。

Playground: https://play.golang.org/p/grQAUN3MBlg (看起来我使用的随机种子,在 playground 时间没有真正改变,您需要在你本机执行去看随机性)

Github: https://github.com/pagnihotry/golang_samples/blob/master/go_context_sample.go

  1. package main
  2. import (
  3. "context"
  4. "fmt"
  5. "math/rand"
  6. "time"
  7. )
  8. //Slow function
  9. func sleepRandom(fromFunction string, ch chan int) {
  10. //defer cleanup
  11. defer func() { fmt.Println(fromFunction, "sleepRandom complete") }()
  12. //Perform a slow task
  13. //For illustration purpose,
  14. //Sleep here for random ms
  15. seed := time.Now().UnixNano()
  16. r := rand.New(rand.NewSource(seed))
  17. randomNumber := r.Intn(100)
  18. sleeptime := randomNumber + 100
  19. fmt.Println(fromFunction, "Starting sleep for", sleeptime, "ms")
  20. time.Sleep(time.Duration(sleeptime) * time.Millisecond)
  21. fmt.Println(fromFunction, "Waking up, slept for ", sleeptime, "ms")
  22. //write on the channel if it was passed in
  23. if ch != nil {
  24. ch <- sleeptime
  25. }
  26. }
  27. //Function that does slow processing with a context
  28. //Note that context is the first argument
  29. func sleepRandomContext(ctx context.Context, ch chan bool) {
  30. //Cleanup tasks
  31. //There are no contexts being created here
  32. //Hence, no canceling needed
  33. defer func() {
  34. fmt.Println("sleepRandomContext complete")
  35. ch <- true
  36. }()
  37. //Make a channel
  38. sleeptimeChan := make(chan int)
  39. //Start slow processing in a goroutine
  40. //Send a channel for communication
  41. go sleepRandom("sleepRandomContext", sleeptimeChan)
  42. //Use a select statement to exit out if context expires
  43. select {
  44. case <-ctx.Done():
  45. //If context is cancelled, this case is selected
  46. //This can happen if the timeout doWorkContext expires or
  47. //doWorkContext calls cancelFunction or main calls cancelFunction
  48. //Free up resources that may no longer be needed because of aborting the work
  49. //Signal all the goroutines that should stop work (use channels)
  50. //Usually, you would send something on channel,
  51. //wait for goroutines to exit and then return
  52. //Or, use wait groups instead of channels for synchronization
  53. fmt.Println("sleepRandomContext: Time to return")
  54. case sleeptime := <-sleeptimeChan:
  55. //This case is selected when processing finishes before the context is cancelled
  56. fmt.Println("Slept for ", sleeptime, "ms")
  57. }
  58. }
  59. //A helper function, this can, in the real world do various things.
  60. //In this example, it is just calling one function.
  61. //Here, this could have just lived in main
  62. func doWorkContext(ctx context.Context) {
  63. //Derive a timeout context from context with cancel
  64. //Timeout in 150 ms
  65. //All the contexts derived from this will returns in 150 ms
  66. ctxWithTimeout, cancelFunction := context.WithTimeout(ctx, time.Duration(150)*time.Millisecond)
  67. //Cancel to release resources once the function is complete
  68. defer func() {
  69. fmt.Println("doWorkContext complete")
  70. cancelFunction()
  71. }()
  72. //Make channel and call context function
  73. //Can use wait groups as well for this particular case
  74. //As we do not use the return value sent on channel
  75. ch := make(chan bool)
  76. go sleepRandomContext(ctxWithTimeout, ch)
  77. //Use a select statement to exit out if context expires
  78. select {
  79. case <-ctx.Done():
  80. //This case is selected when the passed in context notifies to stop work
  81. //In this example, it will be notified when main calls cancelFunction
  82. fmt.Println("doWorkContext: Time to return")
  83. case <-ch:
  84. //This case is selected when processing finishes before the context is cancelled
  85. fmt.Println("sleepRandomContext returned")
  86. }
  87. }
  88. func main() {
  89. //Make a background context
  90. ctx := context.Background()
  91. //Derive a context with cancel
  92. ctxWithCancel, cancelFunction := context.WithCancel(ctx)
  93. //defer canceling so that all the resources are freed up
  94. //For this and the derived contexts
  95. defer func() {
  96. fmt.Println("Main Defer: canceling context")
  97. cancelFunction()
  98. }()
  99. //Cancel context after a random time
  100. //This cancels the request after a random timeout
  101. //If this happens, all the contexts derived from this should return
  102. go func() {
  103. sleepRandom("Main", nil)
  104. cancelFunction()
  105. fmt.Println("Main Sleep complete. canceling context")
  106. }()
  107. //Do work
  108. doWorkContext(ctxWithCancel)
  109. }

缺陷

  • 如果函数接收 context 参数,确保检查它是如何处理取消通知的。例如,exec.CommandContext 不会关闭读取管道,直到命令执行了进程创建的所有分支(Github 问题:https://github.com/golang/go/issues/23019 )之前,不关闭读取器管道,这意味着context取消不会立即返回,直到等待cmd.Wait()外部命令的所有分支都已完成处理。如果您使用超时或最后执行时间的最后期限,您可能会发现这不能按预期工作。如果遇到任何此类问题,可以使用执行超时time.After

  • 在Google,我们要求Go程序员将Context参数作为传入和传出请求之间的调用路径上的每个函数的第一个参数传递。

    这就意味着如果您正在编写一个具有可能需要大量时间的函数的库,并且您的库可能会被服务器应用程序使用,那么您必须接受这些函数中的context。当然,我可以context.TODO()随处通过,但这造成程序可读性差,程序看起来不够优雅。

小结

  1. context.Background只应在最高级别使用,作为所有派生context的根。
  2. context.TODO应该用在不确定要使用什么的地方,或者是否将更新当前函数以便将来使用context。
  3. context 取消是建议性的,功能可能需要时间来清理和退出。
  4. context.Value应该很少使用,它永远不应该用于传递可选参数。这使得API隐含并且可能引入错误。相反,这些值应作为参数传递。
  5. 不要把context放在结构中,在函数中显式传递它们,最好是作为第一个参数。
  6. 如果您不确定要使用什么,请不要传递nil,而是使用TODO。
  7. Contextstruct没有cancel方法,因为只有派生context的函数才能取消它。
  8. Context是线程安全的,可以放心的在多个goroutine中传递。

参考:

http://p.agnihotry.com/post/understanding_the_context_package_in_golang/

https://www.flysnow.org/2017/05/12/go-in-action-go-context.html

https://faiface.github.io/post/context-should-go-away-go2/

links