公元500年前后，随着经济、文化以及佛教的兴起和发展，印度次大陆西北部的旁遮普地区的数学一直处于领先地位。天文学家阿叶彼海特在简化数字方面有了新的突破：他把数字记在一个个格子里，如果第一格里有一个符号，比如是一个代表1的圆点，那末第二格里的同样圆点就表示十，而第三格里的圆点就代表一百。这样，不仅是数字符号本身，而且是它们所在的位置次序也同样拥有了重要意义。以后，印度的学者又引出了作为零的符号。可以这么说，这些符号和表示方法是今天阿拉伯数字的老祖先了。
771年，印度北部的数学家被抓到了阿拉伯的巴格达，被迫给当地人传授新的数学符号和体系，以及印度式的计算方法（即我们现在用的计算法）。由于印度数字和印度计数法既简单又方便，其优点远远超过了其他的计算法，阿拉伯的学者们很愿意学习这些先进知识，商人们也乐于采用这种方法去做生意。
后来，阿拉伯人把这种数字传入西班牙。公元10世纪，又由教皇热尔贝·奥里亚克传到欧洲其他国家。公元1200年左右，欧洲的学者正式采用了这些符号和体系。至13世纪，在意大利比萨的数学家费婆拿契的倡导下，普通欧洲人也开始采用阿拉伯数字，15世纪时这种现象已相当普遍。那时的阿拉伯数字的形状与现代的阿拉伯数字尚不完全相同，只是比较接近而已，为使它们变成今天的1、2、3、4、5、6、7、8、9、0的书写方式，又有许多数学家花费了不少心血。
阿拉伯数字起源于印度，但却是经由阿拉伯人传向四方的，这就是它们后来被称为阿拉伯数字的原因。
