9.3 使用Cython构建C++和Python项目

NOTE:此示例代码可以在 https://github.com/dev-cafe/cmake-cookbook/tree/v1.0/chapter-9/recipe-03 中找到,其中有一个C++示例。该示例在CMake 3.5版(或更高版本)中是有效的,并且已经在GNU/Linux、macOS和Windows上进行过测试。

Cython是一个静态编译器,它允许为Python编写C扩展。Cython是一个非常强大的工具,使用Cython编程语言(基于Pyrex)。Cython的一个典型用例是加快Python代码的速度,它也可以用于通过Cython层使Python与C(++)接口对接。本示例中,我们将重点介绍后一种用例,并演示如何在CMake的帮助下使用Cython与C(++)和Python进行对接。

准备工作

我们将使用以下C++代码(account.cpp):

  1. #include "account.hpp"
  2. Account::Account() : balance(0.0) {}
  3. Account::~Account() {}
  4. void Account::deposit(const double amount) { balance += amount; }
  5. void Account::withdraw(const double amount) { balance -= amount; }
  6. double Account::get_balance() const { return balance; }

代码提供了以下接口(account.hpp):

  1. #pragma once
  2. class Account {
  3. public:
  4. Account();
  5. ~Account();
  6. void deposit(const double amount);
  7. void withdraw(const double amount);
  8. double get_balance() const;
  9. private:
  10. double balance;
  11. };

使用这个示例代码,我们可以创建余额为零的银行帐户。可以在帐户上存款和取款,还可以使用get_balance()查询帐户余额。余额本身是Account类的私有成员。

我们的目标是能够直接从Python与这个C++类进行交互。换句话说,在Python方面,我们希望能够做到这一点:

  1. account = Account()
  2. account.deposit(100.0)
  3. account.withdraw(50.0)
  4. balance = account.get_balance()

为此,需要一个Cython接口文件(调用account.pyx):

  1. # describe the c++ interface
  2. cdef extern from "account.hpp":
  3. cdef cppclass Account:
  4. Account() except +
  5. void deposit(double)
  6. void withdraw(double)
  7. double get_balance()
  8. # describe the python interface
  9. cdef class pyAccount:
  10. cdef Account *thisptr
  11. def __cinit__(self):
  12. self.thisptr = new Account()
  13. def __dealloc__(self):
  14. del self.thisptr
  15. def deposit(self, amount):
  16. self.thisptr.deposit(amount)
  17. def withdraw(self, amount):
  18. self.thisptr.withdraw(amount)
  19. def get_balance(self):
  20. return self.thisptr.get_balance()

具体实施

如何生成Python接口:

  1. CMakeLists.txt定义CMake依赖项、项目名称和语言:

    1. # define minimum cmake version
    2. cmake_minimum_required(VERSION 3.5 FATAL_ERROR)
    3. # project name and supported language
    4. project(recipe-03 LANGUAGES CXX)
    5. # require C++11
    6. set(CMAKE_CXX_STANDARD 11)
    7. set(CMAKE_CXX_EXTENSIONS OFF)
    8. set(CMAKE_CXX_STANDARD_REQUIRED ON)
  2. Windows上,最好不要保留未定义的构建类型,这样我们就可以将该项目的构建类型与Python环境的构建类型相匹配。这里我们默认为Release类型:

    1. if(NOT CMAKE_BUILD_TYPE)
    2. set(CMAKE_BUILD_TYPE Release CACHE STRING "Build type" FORCE)
    3. endif()
  3. 在示例中,还需要Python解释器:

    1. find_package(PythonInterp REQUIRED)
  4. 下面的CMake代码将构建Python模块:

    1. # directory cointaining UseCython.cmake and FindCython.cmake
    2. list(APPEND CMAKE_MODULE_PATH ${CMAKE_CURRENT_SOURCE_DIR}/cmake-cython)
    3. # this defines cython_add_module
    4. include(UseCython)
    5. # tells UseCython to compile this file as a c++ file
    6. set_source_files_properties(account.pyx PROPERTIES CYTHON_IS_CXX TRUE)
    7. # create python module
    8. cython_add_module(account account.pyx account.cpp)
    9. # location of account.hpp
    10. target_include_directories(account
    11. PRIVATE
    12. ${CMAKE_CURRENT_SOURCE_DIR}
    13. )
  5. 定义一个测试:

    1. # turn on testing
    2. enable_testing()
    3. # define test
    4. add_test(
    5. NAME
    6. python_test
    7. COMMAND
    8. ${CMAKE_COMMAND} -E env ACCOUNT_MODULE_PATH=$<TARGET_FILE_DIR:account>
    9. ${PYTHON_EXECUTABLE} ${CMAKE_CURRENT_SOURCE_DIR}/test.py
    10. )
  6. python_test执行test.py,这里进行一些存款和取款操作,并验证余额:

    1. import os
    2. import sys
    3. sys.path.append(os.getenv('ACCOUNT_MODULE_PATH'))
    4. from account import pyAccount as Account
    5. account1 = Account()
    6. account1.deposit(100.0)
    7. account1.deposit(100.0)
    8. account2 = Account()
    9. account2.deposit(200.0)
    10. account2.deposit(200.0)
    11. account1.withdraw(50.0)
    12. assert account1.get_balance() == 150.0
    13. assert account2.get_balance() == 400.0
  7. 有了这个,我们就可以配置、构建和测试代码了:

    1. $ mkdir -p build
    2. $ cd build
    3. $ cmake ..
    4. $ cmake --build .
    5. $ ctest
    6. Start 1: python_test
    7. 1/1 Test #1: python_test ...................... Passed 0.03 sec
    8. 100% tests passed, 0 tests failed out of 1
    9. Total Test time (real) = 0.03 sec

工作原理

本示例中,使用一个相对简单的CMakeLists.txt文件对接了Python和C++,但是是通过使用FindCython.cmake进行的实现。UseCython.cmake模块,放置在cmake-cython下。这些模块包括使用以下代码:

  1. # directory contains UseCython.cmake and FindCython.cmake
  2. list(APPEND CMAKE_MODULE_PATH ${CMAKE_CURRENT_SOURCE_DIR}/cmake-cython)
  3. # this defines cython_add_module
  4. include(UseCython)

FindCython.cmake包含在UseCython.cmake中,并定义了${CYTHON_EXECUTABLE}变量。后一个模块定义了cython_add_modulecython_add_standalone_executable函数,它们分别用于创建Python模块和独立的可执行程序。这两个模块都可从 https://github.com/thewtex/cython-cmake-example/tree/master/cmake 下载。

这个示例中,使用cython_add_module创建一个Python模块库。注意,将使用非标准的CYTHON_IS_CXX源文件属性设置为TRUE,以便cython_add_module函数知道如何将pyx作为C++文件进行编译:

  1. # tells UseCython to compile this file as a c++ file
  2. set_source_files_properties(account.pyx PROPERTIES CYTHON_IS_CXX TRUE)
  3. # create python module
  4. cython_add_module(account account.pyx account.cpp)

Python模块在${CMAKE_CURRENT_BINARY_DIR}中创建,为了让Python的test.py脚本找到它,我们使用一个自定义环境变量传递相关的路径,该环境变量用于在test.py中设置path变量。请注意,如何将命令设置为调用CMake可执行文件本身,以便在执行Python脚本之前设置本地环境。这为我们提供了平台独立性,并避免了环境污染:

  1. add_test(
  2. NAME
  3. python_test
  4. COMMAND
  5. ${CMAKE_COMMAND} -E env ACCOUNT_MODULE_PATH=$<TARGET_FILE_DIR:account>
  6. ${PYTHON_EXECUTABLE} ${CMAKE_CURRENT_SOURCE_DIR}/test.py
  7. )

我们来看看account.pyx文件,这是Python与C++之间的接口文件,并对C++接口进行描述:

  1. # describe the c++ interface
  2. cdef extern from "account.hpp":
  3. cdef cppclass Account:
  4. Account() except +
  5. void deposit(double)
  6. void withdraw(double)
  7. double get_balance()

可以看到cinit构造函数、__dealloc__析构函数以及depositwithdraw方法是如何与对应的C++实现相匹配的。

总之,发现了一种机制,通过引入对Cython模块的依赖来耦合Python和C++。该模块可以通过pip安装到虚拟环境或Pipenv中,或者使用Anaconda来安装。

更多信息

C语言可以进行类似地耦合。如果希望利用构造函数和析构函数,我们可以在C接口之上封装一个C++层。

类型化Memoryview提供了有趣的功能,可以映射和访问由C/C++直接在Python中分配的内存,而不需要任何创建:http://cython.readthedocs.io/en/latest/src/userguide/memoryviews.html 。它们使得将NumPy数组直接映射为C++数组成为可能。