济南军区是在原山东军区的基础上组建的，由于司令员杨得志在南京军事学院学习，第一政委谭启龙主要职务是山东省委书记，工作重心不在军区，所以济南军区司令员一职便由第二政委王新亭代理。 济南军区共编有3个军，除此以外军区还设有炮兵司令部、装甲兵司令部及工程兵司令部，原来山东军区下的各军分区，也归其管辖。