小数点的由来可以追溯到古希腊时期。在公元前6世纪，希腊数学家毕达哥拉斯提出了一种新的数学概念，即“比例”。这种比例可以用分数的形式表示，例如1/2、2/3等。然而，有些比例无法用分数表示，例如根号2的值。毕达哥拉斯把这些无法用分数表示的数称为“无理数”。

在公元前3世纪，希腊数学家欧几里得发明了一种新的表示无理数的方法，即“连分数”。这种方法把一个无理数表示为一个整数加上一个分数，分数的分母是原来的整数减去整数部分。然后再把这个分数表示为一个整数加上一个分数，重复这个过程直到分数部分为0为止。

然而，连分数并不方便进行计算，因此在中世纪时期，欧洲的数学家们开始使用小数来表示无理数。最初，小数是用分数的形式表示的，例如1/2可以表示为0.5。后来，数学家们开始使用小数点来表示小数的整数部分和小数部分，例如1.5。

在17世纪，数学家约翰·纳皮尔斯发明了十进制小数的概念，并使用小数点来表示小数的整数部分和小数部分的分界线。这种表示方法很快被广泛接受，并成为现代数学中表示小数的标准方法。