長子是東漢并州上黨郡的屬縣，位於太行山以西的上黨高地。相傳因堯的長子丹朱受封於此而得名。春秋時為晉邑，戰國時屬上黨之地，秦漢置縣，是上黨郡的重要城邑。
漢末上黨地處并州與冀州之間的山地要衝，曹操平定袁氏、經略并州時，這一帶都在戰事範圍內。魏晉時長子仍屬上黨郡。十六國時，西燕慕容永曾以長子為都城。