修改Linux内核增加系统调用
本文修改内核2.4.29，分两部分，第一部分修改内核并测试，第二部分解释从用户态调用新系统调用的过程。在Intel处理器上，可以通过调用门和软中断两种方式实现系统调用。Linux选择软中断的方式，内核通过软中断(int $0x80)给用户提供服务，即系统调用。本文参考了文后给出地址的文章，甚至系统调用代码也是从中而来，本文重在解释其调用过程。
一，修改内核
增加系统调用只修改/usr/src/linux-2.4.29/include/asm-i386/unistd.h和arch/i386/kernel/entry.S，系统调用函数一般在kernel/sys.c中，这里把增加的系统调用代码也加入这个文件中。
1.修改kernel/sys.c文件，加入自己的系统调用代码，同参考文献(见文后地址)中，
asmlinkage int sys_addtotal(int numdata)
{
int i=0,enddata=0;
while(i<=numdata)
enddata+=i++;
return enddata;
}
计算从0到numdata的累加值。asmlinkage表示通过堆栈递参数。
2.然后把sys_addtotal(int )的入口地址添加到sys_call_table表中。该表依次存储所有系统调用的入口地址。
修改前为：
.long SYMBOL_NAME(sys_ni_syscall) /* sys_set_tid_address 这是第258个系统调用* /
.rept NR_syscalls-(.-sys_call_table)/4
.long SYMBOL_NAME(sys_ni_syscall)
修改后：
.long SYMBOL_NAME(sys_ni_syscall) /* sys_set_tid_address * /
.long SYMBOL_NAME(sys_addtotal) /*这是增加的第259个系统调用*/
.rept NR_syscalls-(.-sys_call_table)/4-1 /*这里重复次数减少1*/
.long SYMBOL_NAME(sys_ni_syscall)
3. 把增加的 sys_call_table 表项所对应的向量,在include/asm-i386/unistd.h 中进行必要申明,以供用户进程和其他系统进程查询或调用:
#define __NR_exit_group 252
#define __NR_addtotal 259 /*这是增加的第259个系统调用*/
然后编译内核make bzImage，并用生成的新内核启动系统。
4.测试程序(test.c)如下：
#include <stdio.h>
#include <asm/unistd.h>
int errno;
_syscall1(int,addtotal,int,num);//_syscall1表示该系统调用有1个参数,同样_syscall2表示2个调用参数
main()
{
int i,j;
printf("Please input a number\n");
while(scanf("%d",&i)==EOF);
j=addtotal(i);
printf("Total from 0 to %d is %d\n",i,j);
}
编译:gcc -I/usr/src/linux-2.4.29/include test.c
运行即可。
二，下面解释调用系统调用的过程
测试程序test.c中的_syscall1是定义在include/asm-i386/unistd.h中的宏：
#define _syscall1(type,name,type1,arg1)
type name(type1 arg1)
{
long __res;
__asm__ volatile ("int $0x80"
: "=a" (__res)
: "0" (__NR_##name),"b" ((long)(arg1)));
__syscall_return(type,__res);
}
其中__syscall_return也定义在该文件中
#define __syscall_return(type, res)
do {
if ((unsigned long)(res) >= (unsigned long)(-125)) {
errno = -(res);
res = -1;
}
return (type) (res);
} while (0)
所以test.c中_syscall1(int,addtotal,int,num)展开后即：
int addtotal(int num)
{
long __res;
__asm__ volatile(“int $0x80”
:”=a”(__res)
:”0”(__NR_addtotal),”b”((long)(num)));
do {
if ((unsigned long)(__res) >= (unsigned long)(-125)) {
errno = -(__res);
__res = -1;
}
return (int) (__res);
} while (0)
}
通过软中断int $0x80，其中系统调用号为eax中的__NR_##name，这里也就是__NR_addtotal，在上面的步骤3中有#define __NR_addtotal 259，即259号系统调用。寄存器ebx中存第一个参数num。
IDT中第0x80个门(其类型为15，即陷阱门)为系统启动(init/main.c中start_kernel调用i386/kernel/traps.c中trap_init)时设置的，trap_init中set_system_gate(0x80,&system_call);故int $0x80指令通过该系统门后转到内核的system_call处执行。
system_call定义在arch/i386/kernel/entry.S中：
ENTRY(system_call) //转到此处执行
pushl %eax # save orig_eax
SAVE_ALL //把寄存器压入堆栈
GET_CURRENT(%ebx)
testb $0x02,tsk_ptrace(%ebx) # PT_TRACESYS
jne tracesys
cmpl $(NR_syscalls),%eax
jae badsys
call *SYMBOL_NAME(sys_call_table)(,%eax,4) //此时eax=系统调用号=__NR_addtotal=259
movl %eax,EAX(%esp) # save the return value
ENTRY(ret_from_sys_call) //从系统调用返回
cli # need_resched and signals atomic test cmpl $0,need_resched(%ebx)
jne reschedule //如果需要重新调度则跳去调度
cmpl $0,sigpending(%ebx)
jne signal_return
restore_all:
RESTORE_ALL
sys_call_table即第一部分2中修改的部分，可以看成一个函数指针数组，按下标指向对应系统调用的函数地址，此处即call *SYMBOL_NAME(sys_call_table)(,%eax,4)调用我们asmlinkage int sys_addtotal(int numdata)。
上面的SAVE_ALL是定义在arch/i386/kernel/entry.S中的宏：
#define SAVE_ALL
cld; \
pushl %es;
pushl %ds;
pushl %eax; \
pushl %ebp; \
pushl %edi; \
pushl %esi; \
pushl %edx; \
pushl %ecx; \
pushl %ebx; \
movl $(__KERNEL_DS),%edx;
movl %edx,%ds;
movl %edx,%es;
所以进入系统调用函数后(本文是sys_addtotal)，堆栈中参数对应SAVE_ALL中的ebx，即num。
在系统调用时，Linux在用户空间通过寄存器而不是堆栈传递参数(可以从宏_systemcall0,_systemcall1,……_systemcall5看到)，这些传递参数的寄存器是：eax系统调用号，如果有参数的话，ebx,ecx,edx,esi,edi依次存第一个到第五个参数。系统调用时，传递的参数最多5个。进入内核system_call后通过SAVE_ALL把寄存器压入堆栈，系统调用函数定义时asmlinkage int sys_addtotal(int numdata)中asmlinkage表示通过堆栈传递参数。进入系统调用函数后看到堆栈中第一个参数即ebx，第二个参数为ecx，对应了用户空间5个参数的顺序。当然，如果系统调用定义时只有一个参数，则只会使用ebx(位于堆栈中)一个参数了。
系统调用返回时保存返回值在寄存器eax中。然后到ret_from_sys_call:从系统调用返回，如果需要调度或有信号待处理则去调度或处理，这超出了本文的范围，最后返回用户空间。
