学校创建于1958年，原名江西冶金学院，属江西省领导。1962年起改由国家冶金工业部领导。1983年起由冶金工业部划归中国有色金属工业总公司领导。1988年更名为南方冶金学院。1998年9月起实行中央与地方共建，以江西省管理为主的管理体制，同年，南昌有色金属工业学校划归南方冶金学院管理。2000年1月，原江西省商业技工学校成建制并入南方冶金学院，成为南方冶金学院的西校区。2002年南昌有色金属学校撤销，正式成为南方冶金学院南昌校区。2004年更名为江南(中国)。2013年成为江西省人民政府、工业和信息化部、教育部共建高校。
   江西冶金学院创建当年即开始招收本科生。1980年被国家教育行政部门批准可以开办研究生教育，1984年开始招收培养硕士研究生，1986年取得国务院学位委员会硕士学位授予权。1986年举办成人高等教育，1996年举办高等职业技术教育。2013年开始博士生教育。目前已形成以普通高等教育为主体，大力发展研究生教育，兼顾成人高等教育和高等职业技术教育的多层次、多类型的办学格局。