10 Node.js 的 c++ 扩展
Node 的优点是处理 IO 密集型操作,对于互联网应用来说,很大一部分内容都是 IO 处理(包括文件 IO和网络IO),但是还是有部分功能属于计算密集型操作。如果遇到这种计算密集型操作,推荐的解决方案是使用其他语言来实现,然后提供一个服务,让 Node 来进行调用。不过我们这章要讲的是 Node 的 C++ 扩展,也就是说,我们可以通过这种方式是 Node 代码直接 “桥接” 到 C++ 上,以此来解决计算密集型操作。但是我在前面为什么推荐使用其他语言来提供计算密集型的服务呢,因为一旦你的这个这个计算服务稍微一上规模,你的代码开发就要面临横跨两个语种的境况,给程序调试增加了很多不确定性。所以说,如果你要做的计算应用的功能比较单一的话,可以考虑做成 C++ 扩展。
Node 的 C++ 扩展功能是依赖于 V8 来实现的,但是在 Node 每次做大的版本升级的时候,都会有可能对应升级 V8 的版本,相应的扩展 API 的定义也很有可能发生变化,所以下面要重点介绍 nan 这个第三方包的,它提供了一系列的宏定义和包装函数,来对这些不同版本的扩展 API 进行封装。
10.1 准备工作
为了能够编译我们的 C++ 扩展,我们需要做一些准备工作,首先需要全局安装 node-gyp 这个包:npm install -g node-gyp。不过此包还依赖于 python 2.7(必须得用2.7版本,安装3.0是不管用的)。同时需要安装 C++ 编译工具,在 linux 下需要使用 GCC,Mac 下需要使用 Xcode,Windows 下需要安装 Visual Studio (版本要求是2015,低于此版本的不可以,高于此版本的作者本身没有做过测试),大家可以选择安装社区版,因为专业版和旗舰版都是收费的,如果想进一步减小安装后占用磁盘的体积可以安装 Visual C++ Build Tools 。按照官方说明在windows下安装完 Visual Stuido 和 node-gyp 后,还需要使用命令 npm config set msvs_version 2015 来指定 node-gyp 使用的 VS 版本。
不过经笔者测试发现,如果在 Windows 中同时安装了多个 VS 工具时, node-gyp 有可能使用错误的版本进行编译,笔者电脑上同时安装了 build tool 2015 和 vs 2012,编译的时候老是会选择使用 vs 2012,不得已将 vs 2012 卸载掉,但是依然报错,最后在 node-gyp 命令中添加参数
--msvs_version=2015才解决。
10.2 hello world
为了演示如何编译一个 C++ 扩展,我们从亘古不变的 hello world 程序入手,这个程序取自 Node C++扩展的官方文档。我们的目的是在 C++ 扩展中实现如下代码:
exports.hello = () => 'world';
代码 10.2.1
这看上去有些拿大炮打蚊子的味道,这段代码太简单了,而我们竟然要用 C++ 将其实现一番,是的这一节关注的并不是代码本身,还是如何使用工具进行编译,所以我们选择了最简单的代码。首先我们创建 hello.cc 文件:
// hello.cc#include <node.h>namespace demo {using v8::FunctionCallbackInfo;using v8::Isolate;using v8::Local;using v8::Object;using v8::String;using v8::Value;void Method(const FunctionCallbackInfo<Value>& args) {Isolate* isolate = args.GetIsolate();args.GetReturnValue().Set(String::NewFromUtf8(isolate, "world"));}void init(Local<Object> exports) {NODE_SET_METHOD(exports, "hello", Method);}NODE_MODULE(addon, init)} // namespace demo
代码 10.2.2 hello.cc
然后创建 binding.gyp ,注意这里面的 target_name 属性要和 NODE_MODULE 宏定义中的第一个参数保持相同。
{"targets": [{"target_name": "addon","sources": [ "hello.cc" ]}]}
配置文件 10.2.1
gyp (Generate Your Project)是一种跨平台的项目构建工具,是谷歌员工在开发 chromium 项目时衍生出来的工具。Node.js 扩展说白了也是基于 V8 的 API 基础上的,所以它也采用 gyp 技术。
编写完成之后在 hello.cc 目录下运行命令行 node-gyp configure ,成功之后会生成一个 build 文件夹,里面包含当前代码生成的 c++ 编译用文件。接着运行 node-gyp build 就能生成扩展包了。
编译成功后,我们就可以在 js 代码中引用这个扩展库了:
// hello.jsconst addon = require('./build/Release/addon');console.log(addon.hello());// Prints: 'world'
代码 10.2.3 hello.js
之前讲过本章的重点是使用 nan 这个包来实现扩展编写,所以我们就先拿这个 hello world 下手。首先是安装 nan 包:npm install nan --save。然后编写 hello.cc:
// hello.cc#include <nan.h>using namespace v8;NAN_METHOD(Method) {info.GetReturnValue().Set(Nan::New<String>("world").ToLocalChecked());}NAN_MODULE_INIT (Init) {Nan::Export(target, "hello", Method);}NODE_MODULE(hello_nan, Init)
代码 10.2.4 hello.cc 的 nan 版
可以看到和代码10.2.2相比代码10.2.4要简洁不少,这里 NAN_METHOD(Method) 经过宏定义解析为 void Method(const Nan::FunctionCallbackInfo<v8::Value>& info),所以你看到在函数 Method 内部会有一个 info 对象,能够在编译的时候被正确识别。同时宏定义 NAN_MODULE_INIT(Init) 会被转化为 void Init(v8::Local<v8::Object> target) 所以你会在函数内部看到一个 target 对象。同时代码 10.2.2 第13行中 Isolate* isolate = args.GetIsolate(); 这个代码在函数 NaN::New<String> 中被封装在其内部,所以在代码 10.2.4 中没有看到这段代码。
10.3 映射 C++ 类
C++ addone 最精髓的地方,就是将 一个 JavaScript 类映射为一个 C++ 类,这样就会产生一个有趣的效果,你通过 new 构建的 js 对象,它的成员函数都被映射成 C++ 类中的成员函数。
下面举的例子可能可能看上去很傻,因为我们又写 对 a+b 求值的函数了,但是这种很天真的代码最好理解不过了。注意,这个例子改写自项目 node-addon-examples 中的 object_wrap 小节。首先是 C++ 头文件定义:
#ifndef MY_CALC_H#define MY_CALC_H#include <nan.h>class MyCalc : public Nan::ObjectWrap {public:static void Init(v8::Handle<v8::Object> module);private:explicit MyCalc(double value=0);~MyCalc();static NAN_METHOD(New);static NAN_METHOD(PlusOne);static NAN_METHOD(GetValue);static Nan::Persistent<v8::Function> constructor;double _value;};#endif
代码 10.3.1 MyCalc.h
首先注意的一点是,类 MyCalc 要继承自 Nan::ObjectWrap ,按照惯例这个类中还要有一个 Persistent 类型的句柄用来承载 js 类的构造函数,MyCalc 类中唯一对外公开的函数就是 Init,其参数 module 正是对应的是 Node 中的 module 对象。
#include "MyCalc.h"Nan::Persistent<v8::Function> MyCalc::constructor;MyCalc::MyCalc(double value): _value(value) {}MyCalc::~MyCalc() {}void MyCalc::Init(v8::Handle<v8::Object> module) {// Prepare constructor templatev8::Local<v8::FunctionTemplate> tpl = Nan::New<v8::FunctionTemplate>(New);//使用ShmdbNan::New<Object>函数作为构造函数tpl->SetClassName(Nan::New<v8::String>("MyCalc").ToLocalChecked());//js中的类名为MyCalctpl->InstanceTemplate()->SetInternalFieldCount(1);//指定js类的成员字段个数Nan::SetPrototypeMethod(tpl,"addOne",PlusOne);//js类的成员函数名为addOne,我们将其映射为 C++中的PlusOne函数Nan::SetPrototypeMethod(tpl,"getValue",GetValue);//js类的成员函数名为getValue,我们将其映射为 C++中的GetValue函数//Persistent<Function> constructor = Persistent<Function>::New/*New等价于js中的new*/(tpl->GetFunction());//new一个js实例constructor.Reset(tpl->GetFunction());module->Set(Nan::New<v8::String>("exports").ToLocalChecked(), tpl->GetFunction());}NAN_METHOD(MyCalc::New) {if (info.IsConstructCall()) {// 通过 `new MyCalc(...)` 方式调用double value = info[0]->IsUndefined() ? 0 : info[0]->NumberValue();MyCalc* obj = new MyCalc(value);obj->Wrap(info.This());info.GetReturnValue().Set(info.This());} else {// 通过 `MyCalc(...)` 方式调用, 转成使用构造函数方式调用const int argc = 1;v8::Local<v8::Value> argv[argc] = { info[0] };v8::Local<v8::Function> cons = Nan::New<v8::Function>(constructor);info.GetReturnValue().Set(cons->NewInstance(argc, argv));}}NAN_METHOD(MyCalc::GetValue) {MyCalc* obj = ObjectWrap::Unwrap<MyCalc>(info.Holder());info.GetReturnValue().Set(Nan::New(obj->_value));}NAN_METHOD(MyCalc::PlusOne) {MyCalc* obj = ObjectWrap::Unwrap<MyCalc>(info.Holder());double wannaAddValue = info[0]->IsUndefined() ? 1 : info[0]->NumberValue();obj->_value += wannaAddValue;info.GetReturnValue().Set(Nan::New(obj->_value));}
代码 10.3.2 MyCalc.cc
注意到在 Init 函数中,定义了一个 js 类的实现,并且将其成员函数和 C++ 类的成员函数做了绑定,其中构造函数绑定为 New ,getValue 绑定为 GetValue,addOne 绑定为 PlusOne。Init 函数中的最后一行类似于我们在 js 中的 module.exports = MyCalc 操作。对于 C++ 函数 New GetValue PlusOne 来说,我们在定义的时候都使用了宏 NAN_METHOD,这样我们在函数内部就直接拥有了 info 这个变量,这个跟 代码 10.2.4 中的使用方法是一样的。
同时留意到在函数 GetValue 和 PlusOne 中,MyCalc* obj = ObjectWrap::Unwrap<MyCalc>(info.Holder());,这一句将 js 对象转化为 C++对象,然后操作 C++ 对象的属性。相反在 函数 New 中 obj->Wrap(info.This()); 是一个相反的过程,将 C++ 对象转化为 js 对象。
10.4 使用线程池
前面几小节介绍了 Nan 的基本使用,可是即使使用了 C++ addon 技术,默认情况下,你所写的代码依然运行在 V8 主线程上,所以说在面对高并发的情况下,如果你的 C++ 代码是计算密集型的,它依然会抢占 V8 主线程的 CPU 时间,最严重的后果当然就是事件轮询的 CPU 时间被抢占导致整个 Node 处理效率下降。所以说釜底抽薪之术还是使用线程。
Nan 中提供了 AsyncWorker 类,它内部封装了 libuv 中的 uv_queue_work,可以在将计算代码直接丢到 libuv 的线程做处理,处理完成之后再通知 V8 主线程。
下面是一个简单的小例子:
#include <string>#include <nan.h>#include <sstream>#ifdef WINDOWS_SPECIFIC_DEFINE#include <windows.h>typedef DWORD ThreadId;#else#include <unistd.h>#include <pthread.h>typedef unsigned int ThreadId;#endifusing v8::Function;using v8::FunctionTemplate;using v8::Local;using v8::Value;using v8::String;using Nan::AsyncQueueWorker;using Nan::AsyncWorker;using Nan::Callback;using Nan::HandleScope;using Nan::New;using Nan::Null;using Nan::ThrowError;using Nan::Set;using Nan::GetFunction;NAN_METHOD(doAsyncWork);static ThreadId __getThreadId() {ThreadId nThreadID;#ifdef WINDOWS_SPECIFIC_DEFINEnThreadID = GetCurrentProcessId();nThreadID = (nThreadID << 16) + GetCurrentThreadId();#elsenThreadID = getpid();nThreadID = (nThreadID << 16) + pthread_self();#endifreturn nThreadID;}static void __tsleep(unsigned int millisecond) {#ifdef WINDOWS_SPECIFIC_DEFINE::Sleep(millisecond);#elseusleep(millisecond*1000);#endif}class ThreadWoker : public AsyncWorker {private:std::string str;public:ThreadWoker(Callback *callback,std::string str): AsyncWorker(callback), str(str) {}~ThreadWoker() {}void Execute() {ThreadId tid = __getThreadId();printf("[%s]: Thread in uv_worker: %d\n",__FUNCTION__,tid);__tsleep(1000);printf("sleep 1 seconds in uv_work\n");std::stringstream ss;ss << " worker function: ";ss << __FUNCTION__;ss << " worker thread id ";ss << tid;str += ss.str();}void HandleOKCallback () {HandleScope scope;Local<Value> argv[] = {Null(),Nan::New<String>("the result:"+str).ToLocalChecked()};callback->Call(2, argv);};};NAN_METHOD(doAsyncWork) {printf("[%s]: Thread id in V8: %d\n",__FUNCTION__,__getThreadId());if(info.Length() < 2) {ThrowError("Wrong number of arguments");return info.GetReturnValue().Set(Nan::Undefined());}if (!info[0]->IsString() || !info[1]->IsFunction()) {ThrowError("Wrong number of arguments");return info.GetReturnValue().Set(Nan::Undefined());}//Callback *callback = new Callback(info[1].As<Function>());Nan::Utf8String param1(info[0]);std::string str = std::string(*param1);AsyncQueueWorker(new ThreadWoker(callback, str));info.GetReturnValue().Set(Nan::Undefined());}NAN_MODULE_INIT(InitAll) {Set(target, New<String>("doAsyncWork").ToLocalChecked(),GetFunction(New<FunctionTemplate>(doAsyncWork)).ToLocalChecked());}NODE_MODULE(binding, InitAll)
代码 10.4.1 async_simple.cc
为了简单起见,将所有代码写到一个 c++ 文件中,注意到在代码 10.4.1中使用了自定义宏定义 WINDOWS_SPECIFIC_DEFINE,在 binding.gyp 中是支持添加自定义宏定义和编译参数的,下面是这个项目中用到的 binding.gyp 文件:
{'targets': [{'target_name': 'async-simple','defines': ['DEFINE_FOO','DEFINE_A_VALUE=value',],"include_dirs" : ["<!(node -e \"require('nan')\")"],'conditions' : [['OS=="linux"', {'defines': ['LINUX_DEFINE',],'libraries':['-lpthread'],'sources': [ 'async_simple.cc' ]}],['OS=="win"', {'defines': ['WINDOWS_SPECIFIC_DEFINE',],'sources': [ 'async_simple.cc' ]}]]}]}
代码 10.4.2 binding.gyp
binding.gyp 中的最外层的 defines 变量是全局环境变量,conditions 中可以放置各种条件判断,OS=="linux" 代表当前的操作系统是 linux,其下的 defines 下定义的宏定义,只有在 linux 系统下才起作用,所以在代码 10.4.1 中的环境变量 WINDOWS_SPECIFIC_DEFINE 只用在 windows 上才起作用,我们使用这个宏定义来做条件编译,以保证能够正确使用线程函数(其实libuv 中封装了各种跨平台的线程函数,这里不做多讨论)。
继续回到代码 10.4.1,类 ThreadWorker 中,函数 Execute 用来执行耗时函数,它将在 libuv 中的线程池中执行,函数 HandleOKCallback 在函数 Execute 执行完成后被调用,用来将处理结果通知 libuv 的事件轮询,它在 V8 主线程中执行。
最终给出测试用的 js 代码,又回到了我们熟悉的回调函数模式:
var asyncSimple = require('./build/Release/async-simple');asyncSimple.doAsyncWork('prefix:',function(err,result) {console.log(err, result);});
代码 10.4.3 addon.js
10.5 代码
本章代码位于 https://github.com/yunnysunny/nodebook-sample/tree/master/chapter10