古代の
毛野国(
けぬのくに)のうちの、
上毛野国造(
かみつけぬのくにのみやつこ)の領域が、令制国の
上毛野国として成立した。その後、
713年(
和銅6年)の
諸国郡郷名著好字令(好字二字令)により、上野国との表記になった。当初、碓井以下13郡であったが、
711年(和銅4年)に14郡となった。もと
上国であったが、
811年(弘仁2年)に大国に変更になり、間もなく、
上総国、
常陸国とともに親王が国司の長官を務める
親王任国となった(天長3年(826年)旧暦9月6日後より)。そこで、
吉良義央が名乗ったように、国司の実質的長官は次官(すけ)の上野介であった。良馬の産地として
勅旨牧がおかれた。