Povos antigos já mantinham exércitos organizados para defender seus territórios e para as guerras de conquistas. No entanto, não havia uma organização para captar soldados, como o serviço militar obrigatório da atualidade. Nas grandes cidades, guerrear por seu país era considerado uma glória, mas os comandos militares eram engrossados principalmente por camponeses, que às vezes eram arrebanhados à força.
Egípcios, sumérios, caldeus, assírios, chineses, indianos, babilônios, persas, gregos e romanos organizaram grandes campanhas militares para ampliar seus impérios e impor tributos aos povos submetidos pela força das armas. Na Idade Média europeia, quando o feudalismo começou a dar sinais de exaustão, era comum que o segundo filho dos senhores feudais fosse destinado à guerra.
O serviço militar obrigatório foi criado na França, pouco depois da Tomada da Bastilha (14.7.1789), marco da Revolução. Os revolucionários franceses inicialmente imaginaram que apenas um exército formado por homens livres poderia defender uma população formada por pessoas livres, iguais e fraternas.
No entanto, com a reação das monarquias vizinhas, foi necessário decretar que todos os homens, e não apenas os alistados, tomassem armas ou armassem hospitais de campanha. Às mulheres, coube a tarefa de confeccionar uniformes e tendas. Este foi o primeiro decreto obrigatório. A França arregimentou 300 mil homens e expulsou os inimigos.
Em 1803, Napoleão Bonaparte institucionalizou o serviço militar obrigatório. Recrutou um milhão de soldados (5% da população), sem restrições de sexo e idade. Com a morte do imperador, houve uma elitização do serviço: ricos podiam optar por atividades voluntárias e alguns profissionais, como médicos, sacerdotes e funcionários públicos se tornaram isentos.
Na Espanha ocorreu o mesmo. Na campanha contra Marrocos, em 1906, quem pagasse não precisava ir para a guerra. Os pobres se revoltaram e houve muitas mortes.
Situação pior aconteceu na Rússia: os mais pobres, enquanto não pagassem a taxa de isenção, precisavam servir o exército. Alguns permaneceram por toda a vida.
Na Inglaterra, o serviço militar foi instituído quatro meses antes da Segunda Guerra Mundial (que teve início em setembro de 1939). Após o fim do conflito, praticamente todos os países do mundo instituíram o serviço.
Depois dos conflitos entre EUA e Coreia (anos 1950) e Vietnã (1965-1975), diversos países passaram a discutir a validade do serviço militar obrigatório e começaram a implantar a profissionalização das forças armadas. Atualmente, em países como EUA, Inglaterra, Canadá e Austrália, os exércitos são formados apenas por voluntários que optam pela carreira militar.
Em 1880, no Brasil, foi estabelecida norma segundo a qual a admissão ao serviço público só poderia ocorrer se o candidato comprovasse estar em dia com as obrigações militares. Entre 1915 e 1916, o poeta Olavo Bilac desencadeou campanha pela obrigatoriedade do serviço militar, que só institucionalizada em 1964, entrando em vigor dois anos depois.