遵义市二中学创建于1913年,始名遵义县立女子师范学堂,几经更名演变,1951年经上级审批,正式命名遵义市第二中学,发展至今,学校已成立黔北创办历史最悠久,并享有较高声誉的特大型完全中学之一。二十世纪九十年代被省教委授予"贵州省实验教学示范学校"称号,2003年省委宣传部、省科技厅、省教育厅、省科协联合授名"贵州省科技特色示范性学校"。2005年被省教育厅授予"预防艾滋病教育示范学校",该校东邻中华南路,西靠螺丝山,交通便利,环境清幽。可谓一个和谐优美的学习环境。
2015年9月,实现高初中剥离,高中部搬迁至南宫山,沿用原名“遵义市第二中学”。原址仅保留初中部,并更名为“遵义市第二初级中学”。