C'est tout simplement car avant les timbres autocollants, la manière la plus pratique de distribuer les timbres était en grande feuilles (format A4 ou plus grand).

Plutot que de devoir découper les timbres dans ces feuilles, il était plus simple de les détacher suivant des pointillés formés par une série de petits trous entre les bordures des timbres.

Une fois détachés, ceci leur donnait un aspect dentelé.

Avec les timbres autocollants, il n'est plus nécessaire de les denteler mais la forme est restée - avec des dents moins profondes qu'autrefois.