上虞是東漢會稽郡的屬縣，屬揚州，位於會稽郡治山陰之東，北臨杭州灣南岸，境內有曹娥江流過，水路可通海。
東漢時，上虞出了思想家王充，著有《論衡》。縣境的曹娥江，得名於東漢孝女曹娥投江尋父的故事。漢末孫策平定會稽以後，上虞歸孫氏統治，三國時屬東吳的會稽郡。