1969年,响应国家“三线”建设号召,按照14所“成建制分迁”方式新建雷达研究基地的部署,王小谟投身到了深藏在黔西南大山中的第38研究所的草创中,住在四面透风的油毡茅棚里,不仅食物匮乏,甚至连吃水都有困难,以王小谟为代表的一批科研人员就在这样的艰苦条件下,开启了筚路蓝缕、披荆斩棘的创业时代。
1969年12月底,王小谟被任命为38所总体室的临时负责人;1972年,王小谟被任命为国产第一部三坐标雷达——383的总设计师,13年磨一剑,克服地处“三线”、科研条件和生活条件都极端闭塞和艰苦的不利条件,于1984年4月完成设计定型。383雷达的研制成功,不仅填补了国产三坐标雷达的装备空白,也使得三坐标雷达成为我国雷达设计研制的一个新领域,更对实现我国国土防空网从概略引导向精确引导的转变,作出了重大贡献。1985年,383雷达项目荣获国家科学技术进步一等奖。1987年,王小谟作为全国14名有突出贡献的中青年科学家之一,受到邓小平同志的亲切接见。
1985年12月,王小谟被任命为38所所长。1988年底,38所调整迁建终于正式启动,38所整体迁建安徽合肥。
在调整迁建过程中,王小谟率领38所干部职工一方面稳妥完成了千头万绪的迁建任务,另一方面又全力保证科研生产不受影响。按照王小谟发展出口装备创汇的思路,38所自主研制生产了JY-9、384等先进雷达,成功开拓了国际市场,不仅解决了38所迁建合肥资金匮乏的问题,完成了38所的“二次创业”,更创造了中国雷达出口的新奇迹。1995年,JY-9雷达荣获国家科学技术进步一等奖。
1992年2月,王小谟被任命为中国电子工业总公司军工局局长,时年54岁的王小谟由此开启了预警机装备的论证与研制之路,推动实现了我国国土防空网从地面向空中的飞跃,更是推动实现了我国从国土防空向攻防兼备的重大转型。