浅谈python和C语言混编的几种方式(推荐)

2023-09-24 01:37:05 154

Python这些年风头一直很盛，占据了很多领域的位置，Web、大数据、人工智能、运维均有它的身影，甚至图形界面做的也很顺，乃至full-stack这个词语刚出来的时候，似乎就是为了描述它。

Python虽有GIL的问题导致多线程无法充分利用多核，但后来的multiprocess可以从多进程的角度来利用多核，甚至affinity可以绑定具体的CPU核，这个问题也算得到解决。虽基本为全栈语言，但有的时候为了效率，可能还是会去考虑和C语言混编。混编是计算机里一个不可回避的话题，涉及的东西很多，技术、架构、团队情况、管理、客户等各个环节可能对其都有影响，混编这个问题我想到时候再开一贴专门讨论。本文只讲python和C混编的方式，大致有如下几种方式（本文背景是linux，其他平台可以类比）：

共享库

使用C语言编译产生共享库，然后python使用ctype库里的cdll来打开共享库。

举例如下，C语言代码为

/*func.c*/intfunc(inta)
{
returna*a;
}

python代码为

#!/usr/bin/envpython
#test_so.pyfromctypesimportcdll
importos

p=os.getcwd()+'/libfunc.so'
f=cdll.LoadLibrary(p)
printf.func(99)

测试如下

$gcc-fPIC-sharedfunc.c-olibfunc.so
$./test_so.py
9801

subprocess

C语言设计一个完整的可执行文件，然后python通过subprocess来执行该可执行文件，本质上是fork+execve。

举例如下，C语言代码为

/*test.c*/
#include
intfunc(inta)
{
returna*a;
}

intmain(intargc,char**argv)
{
intx;

sscanf(argv[1],"%d",&x);
printf("%d\n",func(x));
return0;
}

Python代码为

#!/usr/bin/envpython
#test_subprocess.py
importos
importsubprocess

subprocess.call([os.getcwd()+'/a.out','99'])

测试如下

$gcctest.c-oa.out
$./test_subprocess.py
9801

C语言中运行python程序

C语言使用popen/system或者直接以系统调用级fork+exec来运行python程序也是一种混编的手段了。

举例如下，Python代码如下

#!/usr/bin/envpython
#test.py
importsys
x=int(sys.argv[1])
printx*x

C语言代码如下

/*test.c*/
#include
#include
intmain()
{
FILE*f;
chars[1024];
intret;

f=popen("./test.py99","r");
while((ret=fread(s,1,1024,f))>0){
fwrite(s,1,ret,stdout);
}
fclose(f);
return0;
}

测试如下

$gcctest.c
$./a.out
9801

python对C语言扩展的支持

很多编程语言都为C语言扩展添加了支持，这有两种原因：(1)语言设计之初，可以充分的利用C语言已有的库来做很多扩展；(2)C语言的运行效率高。

python也不例外，从诞生那天起，很多库都是C语言写的。python的C语言扩展中涉及到python的数据结构与C语言的对应，扩展方法其实是用C语言编写一个共享库，只是这个共享库中的接口是一个规范的，可以被python识别的。

为了说明如何扩展，我这里先假设一个在python下的函数功能，代码如下

deffunc(*a):
res=1
foriinrange(len(a)):
res*=sum(a[i])
returnres

如上，希望的函数功能是，参数是任意多个数字组成的列表（姑且排除其他数据结构），返回每个列表的元素之和的乘积。

姑且先把python代码写了，如下所示

#!/usr/bin/envpython
#test.py
importcolin

deffunc(*a):
res=1
foriinrange(len(a)):
res*=sum(a[i])
returnres

a=[1,2,3]
b=[4,5,6]
c=[7,8]
d=[9]
e=[10,11,12,13,14]

f=colin.func2(99)
g=colin.func3(a,b,c,d,e)
h=func3(a,b,c,d,e)
print"f=",f
print"g=",g
print"h=",h

带上之前一直测试的平方func，这个实现相对简单，希望python写出来的func可以和C语言扩展出来的结果一致。

先用C语言写上这些函数的实现，其中func3用上了一个表示任意多个任意长的数组的数据结构y_t,而x_t用来表示单个数组。

/*colin.h*/
#ifndefColin_h
#defineColin_h
typedefstruct{
int*a;
intlen;
}x_t;
typedefstruct{
x_t*ax;
intlen;
}y_t;
intfunc2(inta);
intfunc3(y_t*p);
voidfree_y_t(y_t*p);
#endif

/*colin.c*/
#include"colin.h"
#include

intfunc2(inta)
{
returna*a;
}

intfunc3(y_t*p)
{
intresult;
intsum;
inti,j;

result=1;
for(i=0;ilen;i++){
sum=0;
for(j=0;jax[i].len;j++)
sum+=p->ax[i].a[j];
result*=sum;
}

returnresult;
}

voidfree_y_t(y_t*p)
{
inti;
for(i=0;ilen;i++){
free(p->ax[i].a);
}
free(p->ax);
}

上面定义了三个函数，func2代表平方，func3代表之前所说的功能，又因y_t这个结构可能都是动态分配出来的，所以给个归还内存的方法。

刚才说过python扩展的话，需要把这个共享库的接口“标准化”一下。于是我们就包装一下，并给个python加载的入口。

/*wrap.c*/
#include
#include
#include"colin.h"
PyObject*wrap_func2(PyObject*self,PyObject*args)
{
intn,result;
/*从参数列表中导出一个整形，用"i"*/
if(!PyArg_ParseTuple(args,"i",&n))
returnNULL;

/*用C语言的库实现来计算*/
result=func2(n);
/*计算结果必须要导成python识别的类型*/
returnPy_BuildValue("i",result);
}

PyObject*wrap_func3(PyObject*self,PyObject*args)
{
intn,result;
inti,j;
intsize,size2;
PyObject*p,*q;
y_t*y;

y=malloc(sizeof(y_t));
/*先数数有多少个参数，也就是列表的个数*/
size=PyTuple_Size(args);
/*把数组的个数先分配了*/
y->len=size;
y->ax=malloc(sizeof(x_t)*size);
/*遍历python里各个列表(参数)*/
for(i=0;iax[i].len=size2;
y->ax[i].a=malloc(sizeof(int)*size2);
/*遍历列表，依次把列表里的数转到数组里*/
for(j=0;jax[i].a[j]);
}
}

/*用C语言的库实现来计算*/
result=func3(y);
free_y_t(y);
free(y);
/*结果转成python识别格式*/
returnPy_BuildValue("i",result);
}

/*这是接口列表，加载时是只加载此列表的地址，所以这个数据结构不能放栈（局部变量）内，会被清掉*/
staticPyMethodDefcolinMethods[]=
{
{"func2",wrap_func2,METH_VARARGS,"Justatest"},
{"func3",wrap_func3,METH_VARARGS,"Justatest"},
{NULL,NULL,METH_NOARGS,NULL}
};

/*python加载的时候的接口*/
/*注意，既然库名叫colin,此函数必须交initcolin*/
voidinitcolin()
{
PyObject*m;
m=Py_InitModule("colin",colinMethods);
}

过程中，我猜测PyArg_VaParse应该功能更为强大，可是反复测没有成功，也没细看文档。

测试一下

$gcc-I/usr/include/python2.7/-fPIC-sharedcolin.cwrap.c-ocolin.so
$./test.py
f=9801
g=729000
h=729000

可以看到，C语言写的函数和python写的函数结果一致。

以上这篇浅谈python和C语言混编的几种方式(推荐)就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持毛票票。

浅谈python和C语言混编的几种方式(推荐)

热门推荐

随机推荐