使用Flex Bison 和LLVM编写自己的编译器[zz]
2013-11-26 22:52
316 查看
1、介绍
我总是对编译器和语言非常感兴趣,但是兴趣并不会让你走的更远。大量的编译器的设计概念可以搞的任何一个程序员迷失在这些概念之中。不用说,我也曾今尝试过,但是并没有取得太大的成功,我以前的尝试都停留在语义分析阶段。本文的灵感主要来源于我最近一次的尝试,并且在这一次中我取得一点成就。幸运的是,最近的几年,我参加了一些项目,这些项目给了我在建立编译器上很多有用的经验和观点。另外一件事是,我非常幸运得到
1.1、你为什么要阅读本文
你也许想看看我正在做的事情,但是更有可能的是,你也是和我一样对编译器和语言非常感兴趣,并且也可能遇到了一些在探索的过程中遇到了一些难题,你可能正打算解决这些难题,但是却没有发现好的资源。本文的目标就是提供这些资源,并以一种手把手的方式教你从头到尾的去创建一个具有基本功能的语言编译器。在本文,我不会去解释一些编译器基本理论,所以你要在开始本文前去了解什么是
structure,什么是基础
1.2、达到的成果
如果你根据文章内容一步步来,你将会得到一个能定义函数,调用函数,定义变量,给变量赋值执行基本数学操作的语言。这门语言支持两种基本类型,double和integer类型。还有一些功能还未实现,因此,你可以通过自己去实现这些功能得到你满意的功能并且能为你理解编写一个编译器提供不少的帮助。1.3问题解答
1.3.1我需要了解什么样的语言
我们使用的工具是基于C/C++的。LLVM是基于C++的,我们的这个语言也基于C++,因为C++具有很多面向对象的优点和可以被重用的STL。此外对于C,Lex和Bison都具有那些初看起来令人迷惑的语法,但是我将尽可能的去解释他。我们需要处理的语法非常小,最多就100行,因此它是比较容易理解的。1.3.2很复杂吗?
是或否,这里面有很多的东西你需要了解,甚至多的让人感觉到害怕,但是老实说,其实这些都非常简单,我们同样会使用很多工具分解这些层次的复杂性,并使得这些内容可管理。1.3.3完成它需要多长时间
我们将要完成的编译器花了我三天的时间。但是如果你按“followme”的方式来完成这个编译器的话,你将会花费更少的时间。如果要全部理解这里面的内容可能会花去稍微长一点的时间,但是你至少应该在一个下午就将整个编译器运行起来。好,如果你已经准备好,我们开始吧。
2、准备开始
2.1构成编译器的最基本的要素
一个编译器是由一组有三个到四个组件(还有一些子组件)构成,数据以管道的方式从一个组件输入并流向下一个组件。在我们这个编译器中,可能会用到一些稍微不同的工具。下面这个图展示了我们构造一个编译器的步骤,和每个步骤中将使用的工具。从上图你可以看到在Linking这一步是灰掉的。我们的语言将不支持编译器的连接(很多的语言都不支持编译器的连接)。在文法分析阶段,我们将使用开源工具Lex,即如今的
字节码”,或”机器码matchinecode”。做这一步,我们将使用
总结一下,步骤如下:
文法分析用Flex:将数据分隔成一个个的标记token(标示符identifiers,关键字keywords,数字numbers,中括号brackets,大括号braces,等等etc.)
语法分析用Bison:在分析标记的时候生成抽象语法树.Bison将会做掉几乎所有的这些工作,我们定义好我们的抽象语法树就OK了.
组装用LLVM:这里我们将遍历我们的抽象语法树,并未每一个节点生成字节/机器码。这听起来似乎很疯狂,但是这几乎就是最简单的一步了.
在我们开始下一步之前,你应该准备安装好Flex,Bison和LLVM。因为我们马上就要使用到它们。
2.2定义我们的语法
我们语法是我们语言中最核心的部分,我们的语法使用类似标准C的语法,因为这样的语法非常熟悉,而且简单。我们语法的一个典型的例子如下:<id="highlighter_278088_clipboard"title="复制到剪贴板"classid="clsid:d27cdb6e-ae6d-11cf-96b8-444553540000"width="16"height="16"codebase="http://download.macromedia.com/pub/shockwave/cabs/flash/swflash.cab#version=9,0,0,0"type="application/x-shockwave-flash">
1.
int
do_math(
int
a){
2.
int
x=a*5+3
3.
}
4.
5.
do_math(10)
看起来很简单。它和C非常相似,但是它没有使用分号做语句的分隔,同时你也会注意到我们的语法中没有return语句。这就是你可以自己实现的部分。
现在我们还没有任何机制来验证结果。我们将通过检查我们编译之后LLVM打印出的字节码验证我们程序的正确性。
3、第一步,使用Flex进行文法分析
这是最简单的一步,给定语法之后,我们需要将我们的输入转换一系列内部标记token。如前所述,我们的语法具有非常基础的标记token:标示符identifier,数字常量(整型和浮点型),数学运算符号,括号,中括号,我们的文法定义文件称为token.l,它具有一些固定的语法。定义如下:%{
#include
#include"node.h"
#include"parser.hpp"
#defineSAVE_TOKENyylval.string=newstd::string(yytext,yyleng)
#defineTOKEN(t)(yylval.token=t)
extern"C"intyywrap(){}
%}
%%
[\t\n];[a-zA-Z_][a-zA-Z0-9_]*SAVE_TOKEN;returnTIDENTIFIER;[0-9]+\.[0-9]*SAVE_TOKEN;returnTDOUBLE;[0-9]+SAVE_TOKEN;returnTINTEGER;"="returnTOKEN(TEQUAL);"=="returnTOKEN(TCEQ);"!="returnTOKEN(TCNE);"<"returnTOKEN(TCLT);"<="returnTOKEN(TCLE);">"returnTOKEN(TCGT);">="returnTOKEN(TCGE);"("returnTOKEN(TLPAREN);")"returnTOKEN(TRPAREN);"{"returnTOKEN(TLBRACE);"}"returnTOKEN(TRBRACE);"."returnTOKEN(TDOT);","returnTOKEN(TCOMMA);"+"returnTOKEN(TPLUS);"-"returnTOKEN(TMINUS);"*"returnTOKEN(TMUL);"/"returnTOKEN(TDIV);.printf("Unknowntoken!\n");yyterminate();%%
在第一节(译者注:即%{%}中定义的部分)声明了一些特定的C代码。由于Bison不会去访问我门的yytext变量,我们使用宏”SAVE_TOKEN”来保证标示符的文本和文本长度是安全的(而不是靠标记本身来保证)。第一个token告诉我们要忽略掉那些空白字符。你会注意到我们有些一些等价性比较的标记和其他。还有一些标记还没有实现,你可以非常自由的将这些标记加到你自己的编译器中去。
现在我们在这里做的是定义这些标记和他们的符号名。符号(比如TIDENTFIER)将成为我们语法中的终结符。我们只是返回它,我们从未定义它,他们是在什么地方定义的?当然是在bison语法文件中。我们包含的parser.hpp头文件将会被bison所生成,并且里面的所有符号都将被生成,并被我们在这里使用。
我们对这个token.l运行flex命令,并生成tokens.cpp文件,这个程序将会和我们的语法分析器一起编译并提供yylex()函数来识别这些标记。我们将在稍后运行这个命令,因为现在我们需要从bison那里生成头文件。
4、第2步使用Bison进行语法分析
这是我们工作中最富有挑战性的一部分。生成一个正确的无二义的语法并不是一项简单的工作,要经过很多实践努力。庆幸的是,我们例子中的语法是简单而完整的。在我们实现我们的语法之前,我们需要详细的讲解一下我们的设计。4.1、设计AST(抽象语法树)
语法分析的最终结果是抽象语法树AST,正如我们将看到的,Bison生成抽象语法树的最优工具;我们唯一需要做的事情就是将我们的代码插入到语法中去。文本形式字符串,例如”intx”代表了我们语言的文本形式,和这个类似,抽象语法树AST则代表了我们语言在内存中的表现形式一样(在语言在组装成而进程码之前)。正因如此,我们要在把这些插入在语法分析中的数据结构首先设计好。这个过程是非常直接的,因为我们为语法中的每个语义单元创建了一个结构。方法声明、方法调用,变量声明,引用,这些都构成了抽象语法树的节点。我们语言的抽象语法树的节点如下图:
上图的C++代码如下:
node.h文件
001.
#include<iostream>
002.
#include<vector>
003.
#include<llvm/Value.h>
004.
005.
class
CodeGenContext;
006.
class
NStatement;
007.
class
NExpression;
008.
class
NVariableDeclaration;
009.
010.
typedef
std::vector<NStatement*>StatementList;
011.
typedef
std::vector<NExpression*>ExpressionList;
012.
typedef
std::vector<NVariableDeclaration*>VariableList;
013.
014.
class
Node{
015.
public
:
016.
virtual
~Node(){}
017.
virtual
llvm::Value*codeGen(CodeGenContext&
context){}
018.
};
019.
020.
class
NExpression:
public
Node{
021.
};
022.
023.
class
NStatement:
public
Node{
024.
};
025.
026.
class
NInteger:
public
NExpression{
027.
public
:
028.
long
long
value;
029.
NInteger(
long
long
value):value(value){}
030.
virtual
llvm::Value*codeGen(CodeGenContext&
context);
031.
};
032.
033.
class
NDouble:
public
NExpression{
034.
public
:
035.
double
value;
036.
NDouble(
double
value)
:value(value){}
037.
virtual
llvm::Value*codeGen(CodeGenContext&
context);
038.
};
039.
040.
class
NIdentifier:
public
NExpression{
041.
public
:
042.
std::stringname;
043.
NIdentifier(
const
std::string&
name):name(name){}
044.
virtual
llvm::Value*codeGen(CodeGenContext&
context);
045.
};
046.
047.
class
NMethodCall:
public
NExpression{
048.
public
:
049.
const
NIdentifier&id;
050.
ExpressionListarguments;
051.
NMethodCall(
const
NIdentifier&
id,ExpressionList&arguments):
052.
id(id),arguments(arguments){}
053.
NMethodCall(
const
NIdentifier&
id):id(id){}
054.
virtual
llvm::Value*codeGen(CodeGenContext&
context);
055.
};
056.
057.
class
NBinaryOperator:
public
NExpression{
058.
public
:
059.
int
op;
060.
NExpression&lhs;
061.
NExpression&rhs;
062.
NBinaryOperator(NExpression&lhs,
int
op,NExpression&rhs):
063.
lhs(lhs),rhs(rhs),op(op){}
064.
virtual
llvm::Value*codeGen(CodeGenContext&
context);
065.
};
066.
067.
class
NAssignment:
public
NExpression{
068.
public
:
069.
NIdentifier&lhs;
070.
NExpression&rhs;
071.
NAssignment(NIdentifier&lhs,NExpression&rhs):
072.
lhs(lhs),rhs(rhs){}
073.
virtual
llvm::Value*codeGen(CodeGenContext&
context);
074.
};
075.
076.
class
NBlock:
public
NExpression{
077.
public
:
078.
StatementListstatements;
079.
NBlock(){}
080.
virtual
llvm::Value*codeGen(CodeGenContext&
context);
081.
};
082.
083.
class
NExpressionStatement:
public
NStatement{
084.
public
:
085.
NExpression&expression;
086.
NExpressionStatement(NExpression&expression):
087.
expression(expression){}
088.
virtual
llvm::Value*codeGen(CodeGenContext&
context);
089.
};
090.
091.
class
NVariableDeclaration:
public
NStatement{
092.
public
:
093.
const
NIdentifier&type;
094.
NIdentifier&id;
095.
NExpression*assignmentExpr;
096.
NVariableDeclaration(
const
NIdentifier&
type,NIdentifier&id):
097.
type(type),id(id){}
098.
NVariableDeclaration(
const
NIdentifier&
type,NIdentifier&id,NExpression*assignmentExpr):
099.
type(type),id(id),assignmentExpr(assignmentExpr){}
100.
virtual
llvm::Value*codeGen(CodeGenContext&
context);
101.
};
102.
103.
class
NFunctionDeclaration:
public
NStatement{
104.
public
:
105.
const
NIdentifier&type;
106.
const
NIdentifier&id;
107.
VariableListarguments;
108.
NBlock█
109.
NFunctionDeclaration(
const
NIdentifier&
type,
const
NIdentifier&id,
110.
const
VariableList&arguments,NBlock&
block):
111.
type(type),id(id),arguments(arguments),block(block){}
112.
virtual
llvm::Value*codeGen(CodeGenContext&
context);
113.
};
非常的清晰明了,我们省略了getter和setter方法,这里只列出了共有成员;这些类也不需要影藏私有数据,并省略了codeGen方法。在我们导出AST成LLVM的字节码时,就需要使用到这个方法。
4.2、Bison介绍
bison的语法定义文件同样是由这些标记构成的最复杂的部分。这并不是说技术上有多复杂,但是我也会花一些时间来讨论一下Bison的语法细节,好,现在让我们立刻来熟悉一下Bison的语法。我们将使用基于类似于BNF的语法,使用定义的好终结符和非终结符来组成我们有效的每一个语句和表达式(这些语句和表达式就代表我们之前定义的AST节点)。例如:if_stmt:IF'('condition')'block{/*dostuffwhenthisruleisencountered*/}
|IF'('condition')'{...}
;
在上面例子中,我们定义了一个if语句(如果我们支持if语句话),它和BNF不同之处在于,每个语法后面都跟了一系列动作(在’{'和’}'之间的内容)。这个动作将在此条语法被识别(译者注:归约)的时候被执行。这个过程将会递归地按从叶子符号到根节点符号的次序执行,在这个过程,每一个非终结符最终会被合并为一棵大的语法树。你将会看到的’$$’符号代表着当前树的跟节点(译者注:’$$’代表本条语法规则中冒号左边的部分的语义内容)。此外’$1′代表了本条规则叶子中的第一个符号(译者注:’$1′代表了本条语法规则冒号右边的内容,$1代表冒号右边的第一个符号的语义值)。在上面的例
子中,当’condition’有效时我们将会把$3赋值给$$。这个例子可以解释如何将我们AST和语法规则关联起来。我们将在每一条规则中通常赋值一个节点到$$,最后这些规则会合并成一个大的抽象语法树。Bison的部分是我们语言最复杂的部分,你需要花一点时间去理解它。此外到此为止,你还没有看到完整的代码。下面就是完整的Bison部分的代码:
parser.y
%{
#include"node.h"
NBlock*programBlock;/*thetoplevelrootnodeofourfinalAST*/
externintyylex();voidyyerror(constchar*s){printf("ERROR:%s\n",s);}
%}
/*Representsthemanydifferentwayswecanaccessourdata*/
%union{
Node*node;NBlock*block;NExpression*expr;NStatement*stmt;NIdentifier*ident;NVariableDeclaration*var_decl;std::vector*varvec;std::vector*exprvec;std::string*string;inttoken;}
/*Defineourterminalsymbols(tokens).Thisshould
matchourtokens.llexfile.Wealsodefinethenodetype
theyrepresent.
*/
%tokenTIDENTIFIERTINTEGERTDOUBLE
%tokenTCEQTCNETCLTTCLETCGTTCGETEQUAL
%tokenTLPARENTRPARENTLBRACETRBRACETCOMMATDOT
%tokenTPLUSTMINUSTMULTDIV
/*Definethetypeofnodeournonterminalsymbolsrepresent.
Thetypesrefertothe%uniondeclarationabove.Ex:when
wecallanident(definedbyuniontypeident)wearereally
callingan(NIdentifier*).Itmakesthecompilerhappy.
*/
%typeident
%typenumericexpr
%typefunc_decl_args
%typecall_args
%typeprogramstmtsblock
%typestmtvar_declfunc_decl
%typecomparison
/*Operatorprecedenceformathematicaloperators*/
%leftTPLUSTMINUS
%leftTMULTDIV
%startprogram
%%
program:stmts{programBlock=$1;}
;stmts:stmt{$$=newNBlock();$$->statements.push_back($1);}
|stmtsstmt{$1->statements.push_back($2);}
;stmt:var_decl|func_decl
|expr{$$=newNExpressionStatement(*$1);}
;block:TLBRACEstmtsTRBRACE{$$=$2;}
|TLBRACETRBRACE{$$=newNBlock();}
;var_decl:identident{$$=newNVariableDeclaration(*$1,*$2);}
|identidentTEQUALexpr{$$=newNVariableDeclaration(*$1,*$2,$4);}
;func_decl:identidentTLPARENfunc_decl_argsTRPARENblock
{$$=newNFunctionDeclaration(*$1,*$2,*$4,*$6);delete$4;}
;func_decl_args:/*blank*/{$$=newVariableList();}
|var_decl{$$=newVariableList();$$->push_back($1);}
|func_decl_argsTCOMMAvar_decl{$1->push_back($3);}
;ident:TIDENTIFIER{$$=newNIdentifier(*$1);delete$1;}
;numeric:TINTEGER{$$=newNInteger(atol($1->c_str()));delete$1;}
|TDOUBLE{$$=newNDouble(atof($1->c_str()));delete$1;}
;expr:identTEQUALexpr{$$=newNAssignment(*$1,*$3);}
|identTLPARENcall_argsTRPAREN{$$=newNMethodCall(*$1,*$3);delete$3;}
|ident{$$=$1;}
|numeric
|exprcomparisonexpr{$$=newNBinaryOperator(*$1,$2,*$3);}
|TLPARENexprTRPAREN{$$=$2;}
;call_args:/*blank*/{$$=newExpressionList();}
|expr{$$=newExpressionList();$$->push_back($1);}
|call_argsTCOMMAexpr{$1->push_back($3);}
;comparison:TCEQ|TCNE|TCLT|TCLE|TCGT|TCGE
|TPLUS|TMINUS|TMUL|TDIV
;%%
5、生成Flex和Bison代码
现在我们有了Flex的token.l文件和Bison的parser.y文件。我们需要将这两个文件传递给工具,并由工具来生成c++代码文件。注意Bison同时会为Flex生成parser.hpp头文件;这样做是通过-d开关实现的,这个开关是的我们的标记声明和源文件分开,这样就是的我们可以让这些token标记被其他的程序使用。下面的命令创建parser.cpp,parser.hpp和tokens.cpp源文件。$bison-d-oparser.cppparser.y
$lex-otokens.cpptokens.l
如果上述工作都没有出错的话,我们现在位置已经完成了我们编译器工作总量的2/3。如果你现在想测试一下我们的代码,你可以编译一个简单的main.cpp程序:
01.
#include<iostream>
02.
#include"node.h"
03.
extern
NBlock*programBlock;
04.
extern
int
yyparse();
05.
06.
int
main(
int
argc,
char
**argv)
07.
{
08.
yyparse();
09.
std::cout<<programBlock<<endl;
10.
return
0;
11.
}
你可以编译这些文件:
$g++-oparserparser.cpptokens.cppmain.cpp
现在你需要安装LLVM了,因为llvm::Value被node.h引用了。如果你不想这么做,只是想测试一下Flex和Bison部分,你可以注释掉node.h中codeGen()方法。
如果上述工作都完成了,你现在将有一个语法分析器,这个语法分析器将从标准输入读入,并打出在内存中代表抽象语法树跟节点的内存非零地址。
6、组装AST和LLVM
编译器的下一步很自然地是应该将AST转换成机器码。这意味着将每一个语义节点转换成等价的机器指令。LLVM将帮助我们把这步变得非常简单,因为LLVM将真实的指令抽象成类似AST的指令。这意味着我们真正要做的事就是将AST转换成抽象指令。你可以想象这个过程是从抽象语法树的根节点开始遍历每一个树上节点并产生字节码的过程。现在就是使用我们在Node中定义的codeGen方法的时候了。例如,当我们遍历NBlock代码的时候(语义上NBlock代表一组我们语言的语句的集合),我们将调用列表中每条语句的codeGen方法。上面步骤代码类似如下的形式:
01.
Value*NBlock::codeGen(CodeGenContext&context)
02.
{
03.
StatementList::const_iteratorit;
04.
Value*last=NULL;
05.
for
(it=statements.begin();it!=statements.end();it++){
06.
std::cout<<
"Generatingcodefor"
<<
typeid
(**it).name()<<endl;
07.
last=(**it).codeGen(context);
08.
}
09.
std::cout<<
"Creatingblock"
<<endl;
10.
return
last;
11.
}
我们将实现抽象语法树上所有节点的codeGen方法,然后在向下遍历树的时候调用它,并隐式的遍历我们整个抽象语法树。在这个过程中,我们在CodeGenContext类来告诉我们生成字节码的位置。
6.1、关于LLVM要注意的一些信息
LLVM最大的一个确定就是,你很难找到LLVM的相关文档。在线手册、教程、或其他的文档都没有及时的得到相关维护,这些文档大部分都是过期的文档。除非你去深入研究,否则你很难找到关于C++API的信息。如果你自己安装LLVM,docs是最新的文档。
我发现最好学习LLVM的方法就是通过LLVM的例子去学习。在LLVM的压缩包的’example’目录下有很多快速生成字节码的例子。在
关于LLVM的问题描述到此为止,我将在下面罗列出codegen.h和codegen.cpp的源代码
codegen.h的内容。
01.
#include<stack>
02.
#include<llvm/Module.h>
03.
#include<llvm/Function.h>
04.
#include<llvm/PassManager.h>
05.
#include<llvm/CallingConv.h>
06.
#include<llvm/Bitcode/ReaderWriter.h>
07.
#include<llvm/Analysis/Verifier.h>
08.
#include<llvm/Assembly/PrintModulePass.h>
09.
#include<llvm/Support/IRBuilder.h>
10.
#include<llvm/ModuleProvider.h>
11.
#include<llvm/ExecutionEngine/GenericValue.h>
12.
#include<llvm/ExecutionEngine/JIT.h>
13.
#include<llvm/Support/raw_ostream.h>
14.
15.
using
namespace
llvm;
16.
17.
class
NBlock;
18.
19.
class
CodeGenBlock{
20.
public
:
21.
BasicBlock*block;
22.
std::map<std::string,Value*>locals;
23.
};
24.
25.
class
CodeGenContext{
26.
std::stack<codegenblock*>blocks;
27.
Function*mainFunction;
28.
29.
public
:
30.
Module*module;
31.
CodeGenContext(){module=
new
Module(
"main"
);}
32.
33.
void
generateCode(NBlock&root);
34.
GenericValuerunCode();
35.
std::map<std::string,Value*>&locals(){
return
blocks.top()->locals;}
36.
BasicBlock*currentBlock(){
return
blocks.top()->block;}
37.
void
pushBlock(BasicBlock*block){blocks.push(
new
CodeGenBlock());blocks.top()->block=block;}
38.
void
popBlock(){CodeGenBlock*top=blocks.top();blocks.pop();
delete
top;}
39.
};
codegen.cpp的内容。
001.
#include"node.h"
002.
#include"codegen.h"
003.
#include"parser.hpp"
004.
005.
using
namespace
std;
006.
007.
/*CompiletheASTintoamodule*/
008.
void
CodeGenContext::generateCode(NBlock&root)
009.
{
010.
std::cout<<
"Generatingcode...\n"
;
011.
012.
/*Createthetoplevelinterpreterfunctiontocallasentry*/
013.
vector<
const
type*>argTypes;
014.
FunctionType*ftype=FunctionType::get(Type::VoidTy,argTypes,
false
);
015.
mainFunction=Function::Create(ftype,GlobalValue::InternalLinkage,
"main"
,module);
016.
BasicBlock*bblock=BasicBlock::Create(
"entry"
,mainFunction,0);
017.
018.
/*Pushanewvariable/blockcontext*/
019.
pushBlock(bblock);
020.
root.codeGen(*
this
);
/*
emitbytecodeforthetoplevelblock*/
021.
ReturnInst::Create(bblock);
022.
popBlock();
023.
024.
/*Printthebytecodeinahuman-readableformat
025.
toseeifourprogramcompiledproperly
026.
*/
027.
std::cout<<
"Codeisgenerated.\n"
;
028.
PassManagerpm;
029.
pm.add(createPrintModulePass(&outs()));
030.
pm.run(*module);
031.
}
032.
033.
/*ExecutestheASTbyrunningthemainfunction*/
034.
GenericValueCodeGenContext::runCode(){
035.
std::cout<<
"Runningcode...\n"
;
036.
ExistingModuleProvider*mp=
new
ExistingModuleProvider(module);
037.
ExecutionEngine*ee=ExecutionEngine::create(mp,
false
);
038.
vector<genericvalue>noargs;
039.
GenericValuev=ee->runFunction(mainFunction,noargs);
040.
std::cout<<
"Codewasrun.\n"
;
041.
return
v;
042.
}
043.
044.
/*ReturnsanLLVMtypebasedontheidentifier*/
045.
static
const
Type*typeOf(
const
NIdentifier&type)
046.
{
047.
if
(type.name.compare(
"int"
)
==0){
048.
return
Type::Int64Ty;
049.
}
050.
else
if
(type.name.compare(
"double"
)==0){
051.
return
Type::FP128Ty;
052.
}
053.
return
Type::VoidTy;
054.
}
055.
056.
/*--CodeGeneration--*/
057.
058.
Value*NInteger::codeGen(CodeGenContext&context)
059.
{
060.
std::cout<<
"Creatinginteger:"
<<value<<endl;
061.
return
ConstantInt::get(Type::Int64Ty,value,
true
);
062.
}
063.
064.
Value*NDouble::codeGen(CodeGenContext&context)
065.
{
066.
std::cout<<
"Creatingdouble:"
<<value<<endl;
067.
return
ConstantFP::get(Type::FP128Ty,value);
068.
}
069.
070.
Value*NIdentifier::codeGen(CodeGenContext&context)
071.
{
072.
std::cout<<
"Creatingidentifierreference:"
<<name<<endl;
073.
if
(context.locals().find(name)==context.locals().end())
{
074.
std::cerr<<
"undeclaredvariable"
<<name<<endl;
075.
return
NULL;
076.
}
077.
return
new
LoadInst(context.locals()[name],
""
,
false
,context.currentBlock());
078.
}
079.
080.
Value*NMethodCall::codeGen(CodeGenContext&context)
081.
{
082.
Function*function=context.module->getFunction(id.name.c_str());
083.
if
(function==NULL){
084.
std::cerr<<
"nosuchfunction"
<<id.name<<endl;
085.
}
086.
std::vector<value*>args;
087.
ExpressionList::const_iteratorit;
088.
for
(it=arguments.begin();it!=arguments.end();it++){
089.
args.push_back((**it).codeGen(context));
090.
}
091.
CallInst*call=CallInst::Create(function,args.begin(),args.end(),
""
,context.currentBlock());
092.
std::cout<<
"Creatingmethodcall:"
<<id.name<<endl;
093.
return
call;
094.
}
095.
096.
Value*NBinaryOperator::codeGen(CodeGenContext&context)
097.
{
098.
std::cout<<
"Creatingbinaryoperation"
<<op<<endl;
099.
Instruction::BinaryOpsinstr;
100.
switch
(op){
101.
case
TPLUS:instr=Instruction::Add;
goto
math;
102.
case
TMINUS:instr=Instruction::Sub;
goto
math;
103.
case
TMUL:instr=Instruction::Mul;
goto
math;
104.
case
TDIV:instr=Instruction::SDiv;
goto
math;
105.
106.
/*TODOcomparison*/
107.
}
108.
109.
return
NULL;
110.
math:
111.
return
BinaryOperator::Create(instr,lhs.codeGen(context),
112.
rhs.codeGen(context),
""
,context.currentBlock());
113.
}
114.
115.
Value*NAssignment::codeGen(CodeGenContext&context)
116.
{
117.
std::cout<<
"Creatingassignmentfor"
<<lhs.name<<endl;
118.
if
(context.locals().find(lhs.name)==context.locals().end())
{
119.
std::cerr<<
"undeclaredvariable"
<<lhs.name<<endl;
120.
return
NULL;
121.
}
122.
return
new
StoreInst(rhs.codeGen(context),context.locals()[lhs.name],
false
,context.currentBlock());
123.
}
124.
125.
Value*NBlock::codeGen(CodeGenContext&context)
126.
{
127.
StatementList::const_iteratorit;
128.
Value*last=NULL;
129.
for
(it=statements.begin();it!=statements.end();it++){
130.
std::cout<<
"Generatingcodefor"
<<
typeid
(**it).name()<<endl;
131.
last=(**it).codeGen(context);
132.
}
133.
std::cout<<
"Creatingblock"
<<endl;
134.
return
last;
135.
}
136.
137.
Value*NExpressionStatement::codeGen(CodeGenContext&context)
138.
{
139.
std::cout<<
"Generatingcodefor"
<<
typeid
(expression).name()<<endl;
140.
return
expression.codeGen(context);
141.
}
142.
143.
Value*NVariableDeclaration::codeGen(CodeGenContext&context)
144.
{
145.
std::cout<<
"Creatingvariabledeclaration"
<<type.name<<
""
<<id.name<<endl;
146.
AllocaInst*alloc=
new
AllocaInst(typeOf(type),id.name.c_str(),context.currentBlock());
147.
context.locals()[id.name]=alloc;
148.
if
(assignmentExpr!=NULL){
149.
NAssignmentassn(id,*assignmentExpr);
150.
assn.codeGen(context);
151.
}
152.
return
alloc;
153.
}
154.
155.
Value*NFunctionDeclaration::codeGen(CodeGenContext&context)
156.
{
157.
vector<
const
type*>argTypes;
158.
VariableList::const_iteratorit;
159.
for
(it=arguments.begin();it!=arguments.end();it++){
160.
argTypes.push_back(typeOf((**it).type));
161.
}
162.
FunctionType*ftype=FunctionType::get(typeOf(type),argTypes,
false
);
163.
Function*function=Function::Create(ftype,GlobalValue::InternalLinkage,id.name.c_str(),context.module);
164.
BasicBlock*bblock=BasicBlock::Create(
"entry"
,function,0);
165.
166.
context.pushBlock(bblock);
167.
168.
for
(it=arguments.begin();it!=arguments.end();it++){
169.
(**it).codeGen(context);
170.
}
171.
172.
block.codeGen(context);
173.
ReturnInst::Create(bblock);
174.
175.
context.popBlock();
176.
std::cout<<
"Creatingfunction:"
<<id.name<<endl;
177.
return
function;
178.
}
上述罗列很多的代码,然而这部份代码的含义需要你自己去探索。我在这里只会提及一下你需要注意的内容:
我们在CodeGenContext类中使用一个语句块的栈来保存最后进入的block(因为语句都被增加到blocks中)
我们同样用个堆栈来保存每组语句块中的
我们设计的语言只会知道他当前范围内的内容.要支持“全局”上下的做法,你必须向上搜索整个堆栈中每一个语句块,知道你最后发现你匹配的符号(现在我们只是简单地搜索堆栈中最顶层的符号表)。
在我们进入一个语句块之前,我们需要将语句块压栈,离开语句块时将语句块出栈
剩下的内容都LLVM相关了,在这个主题上我并不是专家。但是迄今为止,我们已经有了编译和运行我们语言的所有代码。
7、编译和运行我们的语言
7.1、编译我们的语言
我们已经有了代码,现在我们怎么运行它?LLVM有着非常复杂的联接link,幸运的是,如果你是自己安装的LLVM,那么你就应该有一个llvm-config二进制程序,这个程序返回你需要的所有编译和联接选项。我们也要同时更新我们的main.cpp的内容使之可以编译和运行我们的代码,这次我们main.cpp的内容如下:
01.
#include<iostream>
02.
#include"codegen.h"
03.
#include"node.h"
04.
05.
using
namespace
std;
06.
07.
extern
int
yyparse();
08.
extern
NBlock*programBlock;
09.
10.
int
main(
int
argc,
char
**argv)
11.
{
12.
yyparse();
13.
std::cout<<programBlock<<endl;
14.
15.
CodeGenContextcontext;
16.
context.generateCode(*programBlock);
17.
context.runCode();
18.
19.
return
0;
20.
}
现在我们需要这样来编译这些代码
$g++-oparser`llvm-config–libscorejitnative–cxxflags–ldflags`*.cpp
你也可以编写一个Makefile来进行编译
all:parser
clean:
rmparser.cppparser.hppparsertokens.cpp
parser.cpp:parser.y
bison-d-o$@$^
parser.hpp:parser.cpp
tokens.cpp:tokens.lparser.hpp
lex-o$@$^
parser:parser.cppcodegen.cppmain.cpptokens.cpp
g++-o$@`llvm-config--libscorejitnative--cxxflags--ldflags`*.cpp
7.2、运行我们的语言
假设上述所有工作都圆满完成,那么现在你将有一个名为parser的二进制程序。运行它,还记得我们那个典型例子吗?让我们看看我们的编译器工作的如何。$echo'intdo_math(inta){intx=a*5+3}do_math(10)'|./parser
0x100a00f10
Generatingcode...
Generatingcodefor20NFunctionDeclaration
Creatingvariabledeclarationinta
Generatingcodefor20NVariableDeclaration
Creatingvariabledeclarationintx
Creatingassignmentforx
Creatingbinaryoperation276
Creatingbinaryoperation274
Creatinginteger:3
Creatinginteger:5
Creatingidentifierreference:a
Creatingblock
Creatingfunction:do_math
Generatingcodefor20NExpressionStatement
Generatingcodefor11NMethodCall
Creatinginteger:10
Creatingmethodcall:do_math
Creatingblock
Codeisgenerated.
;ModuleID='main'
defineinternalvoid@main(){
entry:
%0=calli64@do_math(i6410) ;[#uses=0]
retvoid
}
defineinternali64@do_math(i64){
entry:
%a=allocai64 ;[#uses=1]
%x=allocai64 ;[#uses=1]
%1=addi645,3 ;[#uses=1]
%2=loadi64*%a ;[#uses=1]
%3=muli64%2,%1 ;[#uses=1]
storei64%3,i64*%x
retvoid
}
Runningcode...
Codewasrun.
8、结论
是不是非常的酷?我同意如果你只是从这篇文章中拷贝粘贴的话,你可能会对运行得到的结果感觉有点失望,但是这点结果可能也会激发你更大的兴趣。此外,这就是本文的意义,这不是本篇指导文章的结束,这只是一个开始。因为有了这篇文章的介绍,你可以在文法分析,语法分析和装配语言的时候附加上一些疯狂的特性,然后创造出一个你自己命名的语言。你现在已经可以编译语句块了,那么你现在应该已经有如何继续下去的基本想法。本文完整的代码在Github
我意识到这是一篇非常长的文章,并且这篇文章中难免会有出错的地方,如果你找到了任何问题,在你觉得有空的时候,欢迎你给我发电子邮件,我将会调整我的文章。你如果向想我们共享一些信息,你也可以在你觉得有空的时候写信给我们。
相关文章推荐
- 使用Flex Bison 和LLVM编写自己的编译器[zz]
- 使用Flex Bison 和LLVM编写自己的编译器
- 使用Flex Bison 和LLVM编写自己的编译器
- 使用Flex Bison 和LLVM编写自己的编译器
- 使用Flex Bison 和LLVM编写自己的编译器
- 使用Flex Bison 和LLVM编写自己的编译器
- 使用Flex Bison 和LLVM编写自己的编译器
- 【转】使用Flex Bison 和LLVM编写自己的编译器
- 使用Flex Bison 和LLVM编写自己的编译器
- 使用Flex Bison 和LLVM编写自己的编译器
- 使用Flex Bison 和 LLVM编写你自己的编译器
- Git 实践使用总结 -----/*自己编写*/
- Android message 消息机制介绍及使用 /*自己编写*/
- 架构编译器框架系统 LLVM 使用简介
- 使用IntelliJ IDEA编写自己的第一个java程序
- 使用定义文件和WINAPI宏编写自己的API动态库
- 使用Intel编译器(7)其它(1)多目标处理器程序的编写指南
- 自己编写的Windows字符串类 封装字符串格式转换和常用操作 方便使用
- [C#]使用 C# 编写自己的区块链挖矿算法
- 工程中编写自己的makefile---5 在实例2中使用库文件