Python程序的执行原理

标签： python 程序 原理 | 发表时间：2014-04-14 15:44 | 作者：san_yun
出处：http://www.iteye.com

1. 过程概述

Python先把代码（.py文件）编译成字节码，交给字节码虚拟机，然后虚拟机一条一条执行字节码指令，从而完成程序的执行。

2. 字节码

字节码在Python虚拟机程序里对应的是PyCodeObject对象。
.pyc文件是字节码在磁盘上的表现形式。

3. pyc文件

PyCodeObject对象的创建时机是模块加载的时候，即import。
Python test.py会对test.py进行编译成字节码并解释执行，但是不会生成test.pyc。
如果test.py加载了其他模块，如import util，Python会对util.py进行编译成字节码，生成util.pyc，然后对字节码解释执行。
如果想生成test.pyc，我们可以使用Python内置模块py_compile来编译。
加载模块时，如果同时存在.py和.pyc，Python会尝试使用.pyc，如果.pyc的编译时间早于.py的修改时间，则重新编译.py并更新.pyc。

4. PyCodeObject

Python代码的编译结果就是PyCodeObject对象。

 

 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
typedefstruct{
    PyObject_HEAD
    intco_argcount;        /* 位置参数个数 */
    intco_nlocals;         /* 局部变量个数 */
    intco_stacksize;       /* 栈大小 */
    intco_flags;  
    PyObject*co_code;      /* 字节码指令序列 */
    PyObject*co_consts;    /* 所有常量集合 */
    PyObject*co_names;     /* 所有符号名称集合 */
    PyObject*co_varnames;  /* 局部变量名称集合 */
    PyObject*co_freevars;  /* 闭包用的的变量名集合 */
    PyObject*co_cellvars;  /* 内部嵌套函数引用的变量名集合 */
    /* The rest doesn’t count for hash/cmp */
    PyObject*co_filename;  /* 代码所在文件名 */
    PyObject*co_name;      /* 模块名|函数名|类名 */
    intco_firstlineno;     /* 代码块在文件中的起始行号 */
    PyObject*co_lnotab;    /* 字节码指令和行号的对应关系 */
    void*co_zombieframe;   /* for optimization only (see frameobject.c) */
}PyCodeObject;
 

 

 

5. pyc文件格式

加载模块时，模块对应的PyCodeObject对象被写入.pyc文件，格式如下：

6. 分析字节码

6.1 解析PyCodeObject

Python提供了内置函数compile可以编译Python代码和查看PyCodeObject对象，如下：

Python代码[test.py]

 

 
1
2
3
4
5
6
7
s=”hello”
 
def func():
    prints
 
func()
 

 

在Python交互式shell里编译代码得到PyCodeObject对象:

dir(co)已经列出co的各个域，想查看某个域直接在终端输出即可：

test.py的PyCodeObject

 

 
1
2
3
4
5
6
7
co.co_argcount    0
co.co_nlocals     0
co.co_names       (‘s’,’func’)
co.co_varnames    (‘s’,’func’)
co.co_consts      (‘hello’,<code objectfunc at0x2aaeeec57110,file”test.py”,line3>,None)
co.co_code        ’d\x00\x00Z\x00\x00d\x01\x00\x84\x00\x00Z\x01\x00e\x01\x00\x83\x00\x00\x01d\x02\x00S’
 

 

Python解释器会为函数也生成的字节码PyCodeObject对象，见上面的co_consts[1]

func的PyCodeObject

 

 
1
2
3
4
5
6
7
func.co_argcount   0
func.co_nlocals    0
func.co_names      (‘s’,)
func.co_varnames   ()
func.co_consts     (None,)
func.co_code       ‘t\x00\x00GHd\x00\x00S’
 

 

co_code是指令序列，是一串二进制流，它的格式和解析方法见6.2。

6.2 解析指令序列

指令序列co_code的格式

opcode oparg opcode opcode oparg …
1 byte 2 bytes 1 byte 1 byte 2 bytes  

Python内置的dis模块可以解析co_code，如下图：

test.py的指令序列

func函数的指令序列

第一列表示以下几个指令在py文件中的行号;
第二列是该指令在指令序列co_code里的偏移量;
第三列是指令opcode的名称，分为有操作数和无操作数两种，opcode在指令序列中是一个字节的整数;
第四列是操作数oparg，在指令序列中占两个字节，基本都是co_consts或者co_names的下标;
第五列带括号的是操作数说明。

7. 执行字节码

Python虚拟机的原理就是模拟可执行程序再X86机器上的运行，X86的运行时栈帧如下图：

假如test.py用C语言来实现，会是下面这个样子：

 

 
1
2
3
4
5
6
7
8
9
10
11
constchar*s=“hello”;
 
voidfunc(){
    printf(“%s\n”,s);
}
 
intmain(){
    func();
    return0;
}
 

 

Python虚拟机的原理就是模拟上述行为。当发生函数调用时，创建新的栈帧，对应Python的实现就是PyFrameObject对象。

7.1 PyFrameObject

 

 
1
2
3
4
5
6
7
8
9
10
11
12
typedefstruct_frame{
    PyObject_VAR_HEAD
    struct_frame*f_back;    /* 调用者的帧 */
    PyCodeObject*f_code;     /* 帧对应的字节码对象 */
    PyObject*f_builtins;     /* 内置名字空间 */
    PyObject*f_globals;      /* 全局名字空间 */
    PyObject*f_locals;       /* 本地名字空间 */
    PyObject**f_valuestack;  /* 运行时栈底 */
    PyObject**f_stacktop;    /* 运行时栈顶 */
    …….
}
 

 

那么对应Python的运行时栈就是这样子：

7.2 执行指令

执行test.py的字节码时，会先创建一个栈帧，以下用f表示当前栈帧，执行过程注释如下：

test.py的符号名集合和常量集合

 

 
1
2
3
co.co_names   (‘s’,’func’)
co.co_consts  (‘hello’,<code objectfunc at0x2aaeeec57110,file”test.py”,line3>,None)
 

 

test.py的指令序列

上面的CALL_FUNCTION指令执行时，会创建新的栈帧，并执行func的字节码指令，以下用f表示当前栈帧，func的字节码执行过程如下：

func函数的符号名集合和常量集合

 

 
1
2
3
func.co_names       (‘s’,)
func.co_consts      (None,)
 

 

func函数的指令序列

7.3 查看栈帧

如果你想查看当前栈帧，Python提供了sys._getframe()方法可以获取当前栈帧，你只需要在代码里加入代码如下：

 

 
1
2
3
4
5
6
7
8
9
def func():
    import sys
    frame=sys._getframe()
    print frame.f_locals
    print frame.f_globals
    print frame.f_back.f_locals
    #你可以打印frame的各个域
    prints  
 

 

 



已有 0 人发表留言，猛击->> 这里<<-参与讨论


ITeye推荐



相关 [python 程序 原理] 推荐：

Python程序的执行原理

- - 非技术 - ITeye博客
Python先把代码（.py文件）编译成字节码，交给字节码虚拟机，然后虚拟机一条一条执行字节码指令，从而完成程序的执行. 字节码在Python虚拟机程序里对应的是PyCodeObject对象. .pyc文件是字节码在磁盘上的表现形式. PyCodeObject对象的创建时机是模块加载的时候，即import.

Python程序员培训计划

- 敏 - 我的宝贝孙秀楠 ﹣C++, Lua, 大连,程序员
Python程序员很幸福，因为他们不需要像C#程序员那样东一榔头西一棒子的找资源学习. 把下面资源按顺序学完，代码都自己手敲过，应该就是初级以上水平了. 之所以选择py3k，是感觉新版本的生命力应该更长久一些. 学完tutorial，再看看这个Python竞赛，花个一两周时间搞定它. 最后看看这本书，了解一些有趣的话题.

提高 Python 程序的运行速度

- Ken - python.cn(jobs, news)
尝试了一下用Python实现的K-Means Clustering算法，抽样了10000篇百科词条，分为1000个类，分词后词语总数为130000左右. 如果把1000个类定义为1000个向量，每个向量的元素个数为130000，K-Means Clustering算法的第一步是初始化这1000个向量的值，如果每个向量元素的值用float型存储，则需要的内存为：.

提高Python程序的运行速度

- Guancheng（冠诚） - 冬天里的酒吧
尝试了一下用Python实现的K-Means Clustering算法，抽样了10000篇百科词条，分为1000个类，分词后词语总数为130000左右. 如果把1000个类定义为1000个向量，每个向量的元素个数为130000，K-Means Clustering算法的第一步是初始化这1000个向量的值，如果每个向量元素的值用float型存储，则需要的内存为：.

探究如何给Python程序做hotfix

- - IT瘾-tuicool
使用Python来写服务器端程序，很大的一个优势就是可以进行热更新，即在不停机的情况下，使改动后的程序生效. 在开发阶段，这个功能可以大大提高开发效率（写代码–启动服务器–看效果–改代码–hotfix–看效果–提交~）；而在生产环境中，可以以最小的代价（不停机）修复线上的bug. 我在项目中使用hotfix功能很长世间了，大概了解它是利用了Python的import/reload功能，但是并没有去自己研究过.

python内存不释放原理

- Sosi - shell&#39;s home
    在maillist里面看到无数次的有人问，python速度为什么这么慢，python内存管理很差. 如果你在意内存/CPU，不要用python，改用C吧. 就算C不行，起码也用个go或者java. 不过今天还是说说，python的内存为什么不释放.     首先，python的初始内存消耗比C大，而且大很多.

Python 内存不释放原理

- jyf1987 - python.cn(jobs, news)
在maillist里面看到无数次的有人问，python速度为什么这么慢，python内存管理很差. 如果你在意内存/CPU，不要用python，改用C吧. 就算C不行，起码也用个go或者java. 不过今天还是说说，python的内存为什么不释放.     首先，python的初始内存消耗比C大，而且大很多.

每个程序员都应该学习使用Python或Ruby

- Kings - 开源中国社区最新新闻
本文是从 Why every programmer should learn Python or Ruby 这篇文章翻译而来. 如 果你是个学生,你应该会C，C++和Java. 还会一些VB，或C#/.NET. 多少你还可能开发过一些Web网页，你知道一些HTML，CSS和 JavaScript知识.

Python程序语言快速上手教程

- - SEM WATCH
本文是面向SEO人群的Python程序语言入门教程，也适用于其他没有程序基础但想学习些程序，以解决简单的实际应用需求的人群. 在后面会尽量用最基础的角度来介绍这门语言. 本来打算从网上找一篇入门教程，但因为Python很少是程序员的第一次接触程序所学的语言，所以网上现有的教程多不是很基础，还是决定自己写下这些.

全面解读python web 程序的9种部署方式

- - 鲁塔弗的博客
python有很多web 开发框架，代码写完了，部署上线是个大事，通常来说，web应用一般是三层结构. 主流的web server 一个巴掌就能数出来，apache，lighttpd，nginx，iis. application,中文名叫做应用服务，就是你基于某个web framework写的应用代码.