榆中是東漢金城郡的屬縣，在黃河南岸，位於金城郡治允吾以東，是隴西、漢陽一帶通往河湟地區的要衝。「榆中」之名自先秦已見於史籍，漢代設縣，三國時屬曹魏金城郡。
漢末涼州羌胡與邊將屢次叛亂，榆中常為兵爭之地。中平二年（185 年），車騎將軍張溫討伐邊章、韓遂，派盪寇將軍周慎率軍追擊，將邊章、韓遂圍困在榆中城。韓遂分兵截斷官軍糧道，周慎被迫棄去輜重撤退，漢軍未能平定涼州。