测试

aiohttp web服务器测试

aiohttp有一个pytest插件可以轻松构建web服务器测试程序,同时该插件还有一个用于测试其他框架(单元测试等)的测试框架包。
在写测试之前,我想你可能会想读一读如何写一个可测试的服务器程序感兴趣,因为它们之间的作用的相互的。
在使用之前,我们还需要安装下才行:

  1. $ pip install pytest-aiohttp

如果你不想安装它,你可以在conftest.py中插入一行 pytest_plugins='aiohttp.pytest_plugin'来代替这个包。

临时状态说明

该模块是临时的。

对于已经废弃的API,基于向后不兼容政策,aiohttp允许仍可以继续使用一年半的时间。

不过这对aiohttp.test_tools则不适用。

同时,如有一些必要的原因,我们也会不管向后兼容期而做出更改。

客户端与服务器端测试程序

aiohttp中的test_utils有一个基于aiohttp的web服务器测试模板。
其中包含两个部分: 一个是启动测试服务器,然后是向这个服务器发起HTTP请求。
TestServer使用以aiohttp.web.Application为基础的服务器。RawTestServer则使用基于aiohttp.web.WebServer的低级服务器。
发起HTTP请求到服务器你可以创建一个TestClient实例对象。
测试客户端实例使用aiohttp.ClientSession来对常规操作如ws_connect,get,post等进行支持。

Pytest

pytest-aiohttp插件允许你创建客户端并向你的应用程序发起请求来进行测试。

简易程序如下:

  1. from aiohttp import web
  2. async def hello(request):
  3. return web.Response(text='Hello, world')
  4. async def test_hello(test_client, loop):
  5. app = web.Application()
  6. app.router.add_get('/', hello)
  7. client = await test_client(app)
  8. resp = await client.get('/')
  9. assert resp.status == 200
  10. text = await resp.text()
  11. assert 'Hello, world' in text

同样,它也提供访问app实例的方法,允许测试组件查看app的状态。使用fixture可以创建非常便捷的app测试客户端:

  1. import pytest
  2. from aiohttp import web
  3. async def previous(request):
  4. if request.method == 'POST':
  5. request.app['value'] = (await request.post())['value']
  6. return web.Response(body=b'thanks for the data')
  7. return web.Response(
  8. body='value: {}'.format(request.app['value']).encode('utf-8'))
  9. @pytest.fixture
  10. def cli(loop, test_client):
  11. app = web.Application()
  12. app.router.add_get('/', previous)
  13. app.router.add_post('/', previous)
  14. return loop.run_until_complete(test_client(app))
  15. async def test_set_value(cli):
  16. resp = await cli.post('/', data={'value': 'foo'})
  17. assert resp.status == 200
  18. assert await resp.text() == 'thanks for the data'
  19. assert cli.server.app['value'] == 'foo'
  20. async def test_get_value(cli):
  21. cli.server.app['value'] = 'bar'
  22. resp = await cli.get('/')
  23. assert resp.status == 200
  24. assert await resp.text() == 'value: bar'

Pytest工具箱里有以下fixture:
aiohttp.test_utils.test_server(app, \*kwargs*)
    一个创建TestServer的fixture。

  1. async def test_f(test_server):
  2. app = web.Application()
  3. # 这里填写路由表
  4. server = await test_server(app)

   服务器会在测试功能结束后销毁。
   app是aiohttp.web.Application组件,用于启动服务器。
   kwargs是其他需要传递的参数。

aiohttp.test_utils.test_client(app, \*kwargs)
aiohttp.test_utils.test_client(
server, **kwargs)
aiohttp.test_utils.test_client(
raw_server, **kwargs*)
    一个用户创建访问测试服务的TestClient fixture。

  1. async def test_f(test_client):
  2. app = web.Application()
  3. # 这里填写路由表。
  4. client = await test_client(app)
  5. resp = await client.get('/')

    客户端和响应在测试功能完成后会自动清除。
    这个fixture可以接收aiohttp.webApplication, aiohttp.test_utils.TestServer或aiohttp.test_utils.RawTestServer实例对象。
    kwargs用于接收传递给aiohttp.test_utils.TestClient的参数。

aiohttp.test_utils.raw_test_server(handler, \*kwargs*)
    一个从给定web处理器实例创建RawTestServer的fixture。
    处理器应是一个可以接受请求并且返回响应的协同程序:

  1. async def test_f(raw_test_server, test_client):
  2. async def handler(request):
  3. return web.Response(text="OK")
  4. raw_server = await raw_test_server(handler)
  5. client = await test_client(raw_server)
  6. resp = await client.get('/')

单元测试

使用标准库里的单元测试/基础单元测试的功能来测试应用程序,提供AioHTTPTestCase类:

  1. from aiohttp.test_utils import AioHTTPTestCase, unittest_run_loop
  2. from aiohttp import web
  3. class MyAppTestCase(AioHTTPTestCase):
  4. async def get_application(self):
  5. """
  6. Override the get_app method to return your application.
  7. """
  8. return web.Application()
  9. # the unittest_run_loop decorator can be used in tandem with
  10. # the AioHTTPTestCase to simplify running
  11. # tests that are asynchronous
  12. @unittest_run_loop
  13. async def test_example(self):
  14. request = await self.client.request("GET", "/")
  15. assert request.status == 200
  16. text = await request.text()
  17. assert "Hello, world" in text
  18. # a vanilla example
  19. def test_example(self):
  20. async def test_get_route():
  21. url = root + "/"
  22. resp = await self.client.request("GET", url, loop=loop)
  23. assert resp.status == 200
  24. text = await resp.text()
  25. assert "Hello, world" in text
  26. self.loop.run_until_complete(test_get_route())

class aiohttp.test_utils.AioHTTPTestCase
    一个允许使用aiohttp对web应用程序进行单元测试的基础类。
    该类派生于unittest.TestCase.
    提供下列功能:
    client
        aiohttp测试客户端(TestClient实例)。
    server
        aiohttp测试服务器(TestServer实例)。 新增于2.3.0版本。
    loop
        应用程序和服务器运行的事件循环。
    app
        应用程序(aiohttp.web.Application实例),由get_app()返回。
    coroutine get_client()
       该方法可以被覆盖。返回测试中的TestClient对象。
       返回TestClient实例对象。 新增于2.3.0版本。
    coroutine get_server()
        该方法可以备覆盖。返回测试中的TestServer对象。
        返回TestServer实例对象。 新增于2.3.0版本。
    coroutine get_application()
        该方法可以被覆盖。返回用于测试的aiohttp.web.Application对象。
        返回aiohttp.web.Application实例对象。
    coroutine setUpAsync()
        默认该方法什么也不做,不过可以被覆盖用于在TestCase的setUp阶段执行异步代码。 新增于2.3.0版本。
    coroutine tearDownAsync()
        默认该方法什么也不做,不过可以被覆盖用于在TestCase的tearDown阶段执行异步代码。 新增于2.3.0版本。
    setUp()
        标准测试初始化方法。
    tearDown()
        标准测试析构方法。

注意

  1. TestClient的方法都是异步方法,你必须使用异步方法来执行它的函数。
  2. 使用unittest_run_loop()装饰器可以包装任何一个基础类中的测试方法。
  1. class TestA(AioHTTPTestCase):
  2. @unittest_run_loop
  3. async def test_f(self):
  4. resp = await self.client.get('/')

unittest_run_loop
    专门用在AioHTTPTestCase的异步方法上的装饰器。
    使用AioHTTPTestCase中的AioHTTPTestCase.loop来执行异步函数。

虚假请求对象

aiohttp提供创建虚假aiohttp.web.Request对象的测试工具: aiohttp.test_utils.make_mocked_request(),在一些简单的单元测试中特别好用,比如处理器测试,或者很难在真实服务器上重现的错误之类的。

  1. from aiohttp import web
  2. from aiohttp.test_utils import make_mocked_request
  3. def handler(request):
  4. assert request.headers.get('token') == 'x'
  5. return web.Response(body=b'data')
  6. def test_handler():
  7. req = make_mocked_request('GET', '/', headers={'token': 'x'})
  8. resp = handler(req)
  9. assert resp.body == b'data'

警告

  1. 我们不建议在任何地方都用make_mocked_request()来测试,最好使用真实的操作。
  2. make_mocked_request()的存在只是为了测试那些很难或根本不能通过简便方法测试的复杂案例(比如模仿网络错误)。

aiohttp.test_utils.make_mocked_request(method, path, headers=None, \, version=HttpVersion(1, 1), closing=False, app=None, match_info=sentinel, reader=sentinel, writer=sentinel, transport=sentinel, payload=sentinel, sslcontext=None, loop=…)
    创建一个用于测试的仿真web.Request。
    对于那些在特殊环境难以触发的错误在单元测试中非常有用。
    *参数:

  • method (str) - str, 代表HTTP方法,如GET, POST。
  • path(str) - str, 带有URL的路径信息但没有主机名的字符串。
  • headers(dict, multidict.CIMultiDict, 成对列表) - 一个包含头信息的映射对象。可传入任何能被multidict.CIMultiDict接受的对象。
  • match_info(dict) - 一个包含url参数信息的映射对象。
  • version(aiohttp.protocol.HttpVersion) - 带有HTTP版本的namedtuple。
  • closing(bool) - 一个用于决定是否在响应后保持连接的标识。
  • app(aiohttp.web.Application) - 带有虚假请求的aiohttp.web.application。
  • writer - 管理如何输出数据的对象。
  • transport (asyncio.transports.Transport) - asyncio transport 实例。
  • payload (aiohttp.streams.FlowControlStreamReader) - 原始载体读取器对象。
  • sslcontext(ssl.SSLContext) - ssl.SSLContext对象,用于HTTPS连接。
  • loop (asyncio.AbstractEventLoop) - 事件循环对象,默认是仿真(mocked)循环。
        返回
          返回aiohttp.web.Request对象。
          2.3版本新增: match_info参数。

未知框架工具箱

创建高等级测试:

  1. from aiohttp.test_utils import TestClient, loop_context
  2. from aiohttp import request
  3. # loop_context is provided as a utility. You can use any
  4. # asyncio.BaseEventLoop class in it's place.
  5. with loop_context() as loop:
  6. app = _create_example_app()
  7. with TestClient(app, loop=loop) as client:
  8. async def test_get_route():
  9. nonlocal client
  10. resp = await client.get("/")
  11. assert resp.status == 200
  12. text = await resp.text()
  13. assert "Hello, world" in text
  14. loop.run_until_complete(test_get_route())

如果需要更细粒度的创建/拆除,可以直接用TestClient对象:

  1. from aiohttp.test_utils import TestClient
  2. with loop_context() as loop:
  3. app = _create_example_app()
  4. client = TestClient(app, loop=loop)
  5. loop.run_until_complete(client.start_server())
  6. root = "http://127.0.0.1:{}".format(port)
  7. async def test_get_route():
  8. resp = await client.get("/")
  9. assert resp.status == 200
  10. text = await resp.text()
  11. assert "Hello, world" in text
  12. loop.run_until_complete(test_get_route())
  13. loop.run_until_complete(client.close())

你可以在api参考中找到所有工具包清单。

编写可测试服务

一些如motor, aioes等依赖asyncio循环来执行代码的库,当它们运行正常程序时,都会选一个主事件循环给asyncio.get_event_loop。问题在于,当处在测试环境中时,我们没有主事件循环,因为每个测试都有一个独立的循环。
这样当其他库尝试找这个主事件循环时就会发生出错。不过幸运的是,这问题很好解决,我们可以显式的传入循环。我们来看aioes客户端中的代码:

  1. def __init__(self, endpoints, *, loop=None, **kwargs)

如你所见,有一个可选的loop参数。当然,我们并不打算直接测试aioes客户端只是我们的服务建立在它之上。所以如果我们想让我们的AioESService容易测试,我们可以这样写:

  1. import asyncio
  2. from aioes import Elasticsearch
  3. class AioESService:
  4. def __init__(self, loop=None):
  5. self.es = Elasticsearch(["127.0.0.1:9200"], loop=loop)
  6. async def get_info(self):
  7. cluster_info = await self.es.info()
  8. print(cluster_info)
  9. if __name__ == "__main__":
  10. client = AioESService()
  11. loop = asyncio.get_event_loop()
  12. loop.run_until_complete(client.get_info())

注意它接受的loop参数。正常情况下没有什么影响因为我们不用显示地传递loop就能让服务有一个主事件循环。问题出在我们测试时:

  1. import pytest
  2. from main import AioESService
  3. class TestAioESService:
  4. async def test_get_info(self):
  5. cluster_info = await AioESService().get_info()
  6. assert isinstance(cluster_info, dict)

如果尝试运行测试,一般会失败并给出类似下面的信息:

  1. ...
  2. RuntimeError: There is no current event loop in thread 'MainThread'.

因为aioes在主线程中找不到当前的事件循环,所以就报错咯。显式地传递事件循环可以解决这个问题。
如果你的代码依靠隐式循环工作,你可以需要点小技巧。请看FAQ。

测试API参考

测试服务器

在随机TCP端口上运行给定的aiohttp.web.Application。
创建完成后服务器并没开始,请用start_server()确保服务器开启和使用close()来确保关闭。
测试服务器通常与aiohttp.test_utils.TestClient连用,后者可以提供便利的客户端方法来访问服务器。
class aiohttp.test_utils.BaseTestServer(\, scheme=’http’, host=’127.0.0.1’)
    测试服务器的基础类。
    *参数:

  • scheme(str) - HTTP协议,默认是无保护的“http”。
  • host(str) - TCP套接字主机,默认是IPv4本地主机(127.0.0.1)。
        scheme
           被测试应用使用的协议,’http’是无保护的,’https’是有TLS加密的。
        host
           用于启动测试服务器的主机名。
        port
           用于启动测试服务器的端口(随机的)。
        handler
           用于处理HTTP请求的aiohttp.web.WebServer对象。
        server
           用于管理已接受连接的asyncio.AbstractServer对象。
       coroutine start_server(loop=None, \*kwargs)
           参数: loop(asyncio.AbstractEventLoop) - 用于开启测试服务器的事件循环。
       
    coroutine close()
          停止和结束开启的测试服务器。
       
    make_url(path)*
           返回给定path的绝对URL。

class aiohttp.test_utils.RawTestServer(handler, \, scheme=”http”, host=”127.0.0.1”)
    低级测试服务器(派生于BaseTestServer)
    *参数:

  • handler - 用于处理web请求的协同程序。处理器需要接受aiohttp.web.BaseRequest实例并且返回响应实例(StreamResponse或Response之类的)。对于非200的HTTP响应,处理器可以抛出HTTPException异常。
  • scheme(str) - HTTP协议,默认是无保护的“http”。
  • host(str) - TCP套接字主机,默认是IPv4本地主机(127.0.0.1)。
    class aiohttp.test_utils.TestServer(app, \, scheme=”http”, host=”127.0.0.1”)
        用于启动应用程序的测试服务器(派生于BaseTestServer)。
        *参数:
  • app - 要启动的aiohttp.web.Application实例对象。
  • scheme(str) - HTTP协议,默认是无保护的“http”。
  • host(str) - TCP套接字主机,默认是IPv4本地主机(127.0.0.1)。
        app
           要启动的aiohttp.web.Application实例对象。

测试客户端。

class aiohttp.test_utils.TestClient(app_or_server, \, loop=None, scheme=’http’, host=’127.0.0.1’)
    一个用于制造请求来测试服务器的测试客户端。
    *参数:

  • app_or_server - BaseTestServer实例对象,用于向其发起请求。如果是aiohttp.web.Application对象,会为应用程序自动创建一个TestServer。
  • cookie_jar - 可选的aiohttp.CookieJar实例对象,搭配CookieJar(unsafe=True)更佳。
  • scheme (str) - HTTP协议,默认是无保护的“http”。
  • loop (asyncio.AbstractEventLoop) - 需要使用的事件循环。
  • host (str) - TCP套接字主机,默认是IPv4本地主机(127.0.0.1)。
        scheme
           被测试应用的使用的协议,’http’是无保护的,’https’是有TLS加密的。
        host
           用于启动测试服务器的主机名。
        port
           用于启动测试服务器的端口(随机的)。
        server
           BaseTestServer测试服务器实例,一般与客户端连用。
        session
           内部aiohttp.ClientSession对象.
           不同于TestClient中的那样,客户端会话的请求不会自动将url查询放入主机名中,需要传入一个绝对路径。
        coroutine start_server(**kwargs)
           开启测试服务器。
        coroutine close()
           关闭在运行的服务器。
        make_url(path)
           返回给定path的绝对URL。
       coroutine request(method, path, *args, **kwargs)
           将请求发送给测试服务器。
           除了loop参数被测试服务器所使用的循环覆盖外,该接口与asyncio.ClientSession.request()相同。
        coroutine get(path, *args, **kwargs)
           执行HTTP GET请求。
        coroutine post(path, *args, **kwargs)
           执行HTTP POST请求。
        coroutine options(path, *args, **kwargs)
           执行HTTP OPTIONS请求。
        coroutine head(path, *args, **kwargs)
           执行HTTP HEAD请求。
        coroutine put(path, *args, **kwargs)
           执行HTTP PUT请求。
        coroutine patch(path, *args, **kwargs)
           执行HTTP PATCH请求。
        coroutine delete(path, *args, **kwargs)
           执行HTTP DELETE请求。
        coroutine ws_connect(path, *args, **kwargs)
           初始化websocket连接。
           该api与aiohttp.ClientSession.ws_connect()相同。

其他工具包

aiohttp.test_utils.make_mocked_coro(return_value)
    创建一个协程mock。
    其表现形式像一个协程一般,作用是返回要返回的值(return_value)。而同时又是一个mock对象,你可以使用一般的Mock来测试它:

  1. mocked = make_mocked_coro(1)
  2. assert 1 == await mocked(1, 2)
  3. mocked.assert_called_with(1, 2)

    参数: return_value - 当mock对象被调用时返回的值。
    像协程一样返回return_value的值。

aiohttp.test_utils.unused_port()
    返回一个可以用在IPv4 TCP协议上的还没有被使用的端口。
    返回一个可以使用端口值(类型为整数int)。

aiohttp.test_utils.loop_context(loop_factory=)
    一个上下文管理器,可以创建一个用于测试目的事件循环。
    用于进行测试循环的创建和清理工作。

aiohttp.test_utils.setup_test_loop(loop_factory=)
    创建并返回asyncio.AbstractEventLoop实例对象。
    如果要调用它,需要在结束循环时调用下teardown_test_loop.

aiohttp.test_utils.teardown_test_loop(loop)
    销毁并清除setup_test_loop所创建的event_loop。
    参数: loop(asyncio.AbstractEventLoop) - 需要拆除的循环。