清光绪二十四年正月初一日（1898年1月22日），光绪皇帝紧急寄谕各地：“据荣禄（清朝大臣）奏：‘各省煤铁矿产以山西、河南、四川、湖南为最，请饬筹款设立制造厂局，渐次扩充，从速开办，以重军需’。着各地方情形，认真筹办，总期有备无患，足以仓猝应变等因。钦此，当以晋省向无机器制造局厂，亟应赶速筹办。”根据这一旨令，胡聘之开始筹办山西机器局。但由于清朝末年财政本来十分困难，加上大量对外赔款和宫廷极度的浪费，国库已经枯竭，因此，山西机器局的经费没有着落。3月，胡聘之上奏光绪皇帝：“……各省设立制造厂局皆有筹定常年经费，晋省库储支绌，未能骤议恢张，惟时局日艰，必须早为筹备，方免有误要需”。以此请求筹办经费。3月27日，胡聘之仅预支480两库银，在太原北门外柏树园购买普济观旁庙地38亩和庙宇房屋，成立了山西机器局。随后又派人到天津向洋行定购了几部加工机械。同年12月，清朝政府“整顿”归化（现呼和浩特市）关税，增加了税金5万两，后经批准，便将这笔款项作为筹办机器局的投资，补充了先前的不足。

5月，新建一座办公厅，名叫过厅院，合20余间；两座厂房，各合10几间。其中，一座较宽，内设机器、木样、虎钳3部分；一座较窄，内设翻砂、熟铁两部分。

机器局经过一年多筹备，于光绪二十五年十月（1899年）勉强开工生产，全局分为5个厂：机器厂、翻砂厂、熟铁厂、木样厂、铜帽厂，钳工部分附属于机器厂。其中，机器厂设备有车床6部，旋臂钻床1部、龙门刨1部，虎钳案子4个，共有虎钳20余个；翻砂厂有鼓风化铁炉1座；熟铁厂有烘炉5盘；铜帽厂有手摇冲床5部，另外还有1座锅炉房，内设35马力蒸汽机1部。

光绪二十六年（1900年）八月，八国联军攻入北京，慈禧太后和光绪皇帝逃抵太原，机器局奉旨为随行“护驾”的马玉琨部队修理了一批枪械，工匠徒弟都受到慈禧太后的奖赏。

机器局因为没有经过工场手工业的发展阶段，加之山西省又无近代化工业，所以技术工人极为缺乏。胡聘之凭借官场势力及乡土关系，从天津、湖北等地高价聘来技工30余人，组成机器局的主要力量，完全依靠他们开动机器，训练徒工。同时召集了少数手工业工人，充实了熟铁厂和木样厂。工匠中绝大部分是外省人，各工匠没有明确的等级，最高每月18两银子，而徒工大部分是本地人，每月工资2两4钱，必须工作2至3年以后，才可酌加3钱。

机器局最高之职为总办，首任徐桂芬，继任刘冠雄。总办下设提调，负责实际工作，首任王曾彦，继任万里青。提调之下设总管，专管生产，领导各厂，首任张振才，继任张安义。各厂又有老板（相当于工长）主事，老板均为高级工匠。其中，机器厂为任大曾，翻砂厂为刘玉珍，熟铁厂为王恒泰，木样厂为陶庆春，铜帽厂为陆成。提调之下另设文案1人，管理一切日常行政事务，由艾庆嘉担任。此外还有办事人员和勤杂人员数名及驻厂清兵10余人。

机器局由于设备简陋、技术落后，生产能力极其低弱。一般工人都不识蓝图，也不用蓝图，干活时顶多划一个草图，更多的是参照实物，干干比比。完全用普通炭素钢淬火后作刀具。日常的生产任务是修理与制造军械，主要是火枪及火枪上用的火帽，也零星地制作过一些洋鼓洋号、大刀等。起初制造火枪枪身时，是把铁条卷在一根芯子上，加以锻打，然后抽去芯子，车一下内圆就成为枪筒。工序虽然简单，但却非常费劲，每月不过能造20至30支。后来有了改进，先将熟铁锻成枪筒毛坯，然后用钢条做成的钻头在元车上打眼，打一会儿，退出来倒掉铁屑，然后再打，虽然效率仍很低，但较前有一定的提高。以后开始修理步枪。步枪比火枪的要求更高，因此修理起来也就更困难，需要的时间更长。一个工匠约4至5天才能做好一个撞针。除此之外，还做过名叫“二人抬”的大土枪，枪身很长，一人扛着，一人射击，与火枪结构、用法相类似。还铸过大、中、小三种土炮，分别称为“大将军”、“二将军”、“三将军”，都是一个炮筒，两个耳子，安在架上，装入火药铁丸，用火绳点火发射。因为太笨重，携带不便，没有多生产。

宣统三年（1911年）辛亥革命爆发，山西政局大乱，阎锡山在袁世凯的支持下，逐渐掌握了山西的军政大权。1912年（民国元年），山西机器局名称不变，取消总办、提调等职，由英国留学生李蒙淑（字陶庵）任局长。职员17人，匠徒200余人。厂内分设翻砂、铁工、木样、机器4厂，直至1914年。

山西机器局历时16年，就其规模仍属萌芽阶段。然而，它为以后太原北城工业区的形成乃至山西工业的发展奠定了基础。（《太原机车车辆厂志》）