休屠是東漢武威郡的屬縣，位於河西走廊東段、姑臧以北，屬涼州。此地原為匈奴休屠王的駐牧之地。漢武帝時，霍去病出擊河西，休屠王部眾隨渾邪王降漢。漢朝其後在河西設郡，以休屠王故地置休屠縣，縣名即由此而來。西漢名臣金日磾就是休屠王太子。
東漢沿置休屠縣，仍屬武威郡。漢末三國時，此地為涼州邊地，周邊有羌、胡雜居。魏、晉時期仍為河西要地之一。