遼陽是漢代的縣，西漢時屬遼東郡。東漢安帝時，朝廷將遼東郡的高顯、候城、遼陽三縣改屬玄菟郡，所以《續漢書・郡國志》把遼陽列在玄菟郡下。漢代遼陽縣位於遼河流域，與今日遼寧省的遼陽市不是同一個地方。今遼陽市一帶在漢代是遼東郡的治所襄平。
漢末，遼東太守公孫度割據遼東，勢力兼及玄菟等郡，遼陽也在公孫氏的控制範圍內。景初二年（238 年），魏將司馬懿攻滅公孫淵，遼東、玄菟等地從此歸入曹魏。