除号源自中国古代计算方法之一的作差法。
在中国古代计算中，作差法是一种重要的计算方法。其基本思路是：做减法。例如，当需要计算24÷4时，可以采用作差法，即从24开始，每次减去4，直到最后得到0。减了几次，就是答案。
除号就是在作差法的基础上发展而来的。书写除号的方法是在被除数上方画一条横线，上面写着被除数，下面写着除数，符号“÷”放在这条横线上方，表示要用除法去计算。通过除法计算后，商就是作差法中减的次数。
总的来说，除号的来源与中国古代计算方法的演进密不可分，是人们对计算方法的实践和总结的结果。
除号的由来为：
我国古代数学著作《孙子算经》上说：“凡除之法， 与乘正异。”当时，人们用算筹和口诀来计算除法。在除法中，被除数称为算 “实”，除数称为“法”，除得的结果称为“商”。
阿拉伯人曾经用两个数之间加一条短线的方法表示相除。
1544年，德国数学家施蒂费尔用括号作为除号。
1631年，英国数学家奥特雷德用符号“：”作为除号。
数学中正式把目前的除号作为除法运算符号的 ,是瑞士数学家雷恩。雷恩在计算时，遇到把一个整数分成几份的问题 ,却没有恰当的符号表示这种算法。 于是他把阿拉伯人表示除法的小短线“一”和奥特雷德的除法符号“： ”合二为一，用一条横线段“一”把两个小圆点“：”从中间分开，产生了表示除法的新符号“一”，即除号。
现在世界上，对于除号并没有统一的规定符号。 如德国、俄罗斯仍然用“：”作为除号 ,在英国还有人用“/”作为除号。除法在我们的日常生活中应用广泛。