L'étymologie du mot cartable le rattache au latin charta (la carte). L'usage ancien du mot cartable désigne un grand portefeuille dans lequel on pourrait mettre des feuilles. Par extension, le mot a ensuite désigné le sac que les élèves portent pour se rendre à l'école.
La littérature du XIXe siècle montre souvent des enfants portant leur cartable en bandoulière, comme une besace. L'usage des deux bretelles permettant un port sur le dos ne date que du début du XXe siècle.