C/C++使用过程中的溢出问题详解

void print_array(int a[], int n)
{
    for (int i = 0; i < n; i++) 
    {
        a[i] = a[i+1];//当i = n-1时，就发生了数组越界
        printf(“%d\n”, a[i]);
    }
}

signed char c1 = 127;
c1 = c1+1;//发生上溢出，c1的值将变为-128
signed char c2 = -128;
c2 = c2-1;//发生下溢出，c2的值将变为127
unsigned char c3 = 255;
c3 = c3+1;//发生上溢出，c3的值将变为0
unsigned char c4 = 0;
c4 = c4-1;//发生下溢出，c4的值将变为255

void BuildToLowerTable( void ) /* ASCII版本*/
{
    unsigned char ch;
    /* 首先将每个字符置为它自己 */
    /*ch为unsigned char，无符号数，当ch值为UCHAR_MAX， ch++将会发生向上溢出，变为0，导致循环无法退出。*/
    for （ch=0; ch <= UCHAR_MAX;ch++）
        chToLower[ch] = ch;
    /* 将大写字母改为小写字母 */
    for( ch = ‘A'; ch <= ‘Z'; ch++ )
        chToLower[ch] = ch +'a' – ‘A';
}

void * memchr( void *pv, unsigned char ch, size_t size )
{
    unsigned char *pch = (unsigned char *) pv;
    /*当size的值为0的时候，由于size是无符号整数，因此会发生下溢出，变为一个最大的整数 循环也将无法退出*/ 
    while( -- size >=0 )
    {
        if( *pch == ch )
            return (pch );
        pch++;
    }
    return( NULL );
}

void func1(char* s)
{
    char buf[10];
    /*此时，buf只有10个字节，如果传入的s超过10个字节，就会造成溢出*/
    strcpy(buf, s);
}
void func2(void)
{
    printf("Hacked by me.\n");
    exit(0);
}
int main(int argc, char* argv[])
{
    char badCode[] = "aaaabbbb2222cccc4444ffff";
    DWORD* pEIP = (DWORD*)&badCode[16];
    *pEIP = (DWORD)func2;
    /*badCode字符串超过了10个字节，传递给func1会造成栈上缓冲区溢出
    而且，由于badCode经过精心构造，在溢出的时候，根据函数的调用约定规则，会覆盖栈上的返回地址，
    指向了func2。所以，在func1退出的时候，会直接调用func2
    */
    func1(badCode);
    return 0;
}

int init_module(void)
{
    char buf[10000]; //buf[]分配在栈上，但10000的空间超过了栈的默认大小8KB。
    //所以发生溢出
    memset(buf,0,10000);
    printk("kernel stack.\n");
    return 0;
}
void cleanup_module(void)
{ 
    printk("goodbye.\n");
}
MODULE_LICENSE("GPL");
//应用栈的大小对少？内核栈的大小多少？什么时候容易栈溢出？

void* memchr( void *pv, unsigned char ch, size_t size )
{
    unsigned char *pch = ( unsigned char * )pv;
    unsigned char *pchEnd = pch + size;
    while( pch < pchEnd )
    {
        if( *pch == ch )
            return ( pch );
        pch ++ ;
    }
    return( NULL );
}

pchEnd = pv + size – 1; 
while ( pch <= pchEnd ) 
{
        if( *pch == ch )
            return ( pch );
        pch ++ ;
}

void *memchr( void *pv, unsigned char ch, size_t size )
{
    unsigned char *pch = ( unsigned char * )pv;
    while( size -- > 0 )
    {
        if( *pch == ch )
            return( pch );
        pch ++;
    }
    return( NULL );
}

char *str = “Hello, how are you!”;

char *strbak = (char *)malloc(strlen(str));

if (NULL == strbak)

{

//处理内存分配失败，返回错误

}

strcpy(strbak, str);

char *str = “Hello, how are you!”;

char *strbak = (char *)malloc(strlen(str)+1);

if (NULL == strbak)

{

    //内存分配失败，返回错误

}

strcpy(strbak, str);