C语言函数调用约定和返回值详情

一、函数调用约定

1. 影响函数生成的符号名

2. 影响形参内存的释放者

_stdcall

_fastcall

_thiscall

二、函数的返回值

1. 0 < 返回值 <= 4字节

2. 4字节 < 返回值 <= 8字节

3. 返回值 > 8字节

一、函数调用约定

_cdecl：C调用约定

_stdcall：Windows标准的调用约定

_fastcall：快速调用约定

_thiscall：C++的成员函数调用约定

以上的函数调用约定入参都是从右向左，只有PASCAL从左向右

函数调用约定不同，会影响函数生成的符号名，函数入参顺序，形参内存的清理者

1. 影响函数生成的符号名

在一个文件中写_cdecl的函数声明：

在另一个文件中写_stdcall的函数定义：

我们编译链接一下：

链接器找不到__cdecl sum这个函数调用的定义，将声明的地方改成__stdcall就可以链接成功

2. 影响形参内存的释放者

_stdcall

形参内存还是由调用方开辟

ret表示把栈顶元素的值（调用处下一条指令的地址）赋给PC寄存器，并出栈栈顶元素（修改esp）
ret 8表示在ret操作的基础上，执行执行指令add esp, 8

_fastcall

可以看到在_fastcall调用约定中，call指令前面并没有push操作，而是通过寄存器把实参传递到形参（没有压栈出栈，速度很快），实参在调用方栈帧上，形参在被调用方栈帧上

在_fastcall调用约定中，最多只能通过寄存器将最左边8字节的实参带给形参，多于8字节的实参还是通过push的方式带给调用方的形参

我们给sum传入三个参数，看看是谁释放形参内存：

这就很清楚了，一共3个参数，左边的2个参数通过寄存器传递不需要清理内存，只有一个形参内存需要释放，所以显示ret 4

对于sum函数的第一个局部变量temp，在_cdecl和_stdcall中都是通过ebp-4访问的，形参是通过ebp正向偏移访问，因为形参内存在调用方的栈帧上

而在_fastcall中是通过寄存器把左边的8字节实参带给sum的形参，并存放在sum函数的栈帧上：

mov edx, dword ptr [ebp-8]
mov ecx, dword ptr [ebp-4]

所以对于sum函数的第一个局部变量temp，只能通过ebp-0Ch访问

_thiscall

对参数个数不确定的，调用者清理堆栈，否则被调用者清理堆栈

二、函数的返回值

函数的返回值分为内置类型（char、short、int、long、float、double等）、结构体类型、union、enum等

1. 0 < 返回值 <= 4字节

通过eax寄存器带出

2. 4字节 < 返回值 <= 8字节

#include <stdio.h>
typedef struct  {
int a;
int b;
}Data;
Data sum(Data a, Data b) {
Data temp = { 0 };
temp.a = a.a + b.a;
return temp;
}
int main() {
Data a = { 10 }; 
Data b = {20};  
Data ret = { 0 }; 
ret = sum(a, b);
return 0;
}

可以看到，4字节 < 返回值 <= 8字节时，通过eax和edx寄存器带出

3. 返回值 > 8字节

#include <stdio.h>
typedef struct  {
int a[20];
}Data;
Data sum(Data a, Data b) {
Data temp = { 0 };
temp.a[0] = a.a[0] + b.a[0];
return temp;
}
int main() {
Data a = { 10 };
Data b = {20};
Data ret = { 0 };
ret = sum(a, b);
return 0;
}