张居正之所以选择考成法作为他一系列改革的突破口。是基于这样一种现实：“盖天下之事，不难于立法，而难于法之必行；不难于听言，而难于言之必效。
若询事而不考其终，兴事而不加屡省，上无综核之明，人怀苟且之念，虽使尧舜为君，禹皋为佐，亦恐难以底绩而在成也。”“顾上之督之者虽谆谆，而下之听之者恒藐藐。”“法之不行也，人不力也，不议人而议法何益?”
张居正认为朝廷颁发的法令、章程，案牍劳神，不可谓不多；“置邮而传之四方”，不可谓不及时，但效果如何?大小官员成日办公，其实只是办纸!纸从北京南纸店里出来，送进衙门，看过之后，再出衙门，经过长短不等的公文旅行后，便进入另一衙门归档。在这种情况下，你提出再好的改革方案，又有何用?所以张居正推出了考成法对大明王朝的政治体制进行了改革。
考成法明确规定：凡官员人等非奉公差，不许借行勘合；凡内外各官丁忧、起复、给由、升转、改调、到任等项，俱不给勘合，不许驰驿。其实嘉靖、隆庆年间，也都做出过一些限制，但最后都变成废纸一张。为什么呢?没抓落实。张居正首先从自己做起。他的儿子回江陵应试，自己雇车，他的父亲过生日，他吩咐仆人背着寿礼，骑驴回去祝寿；万历八年，他的次弟张居谦病重，回家乡调理，保定巡抚张卤发出勘合，居正给退了回去。甘肃巡抚侯东莱的儿子擅行驰驿，被言官弹劾，其子的官荫被革去。考成法的威力，于此可见一斑。
在财政方面，考成法的成绩最为显著。考成法实行以后，规定征赋不足额的，巡抚和巡按御史听纠，府、州、县官听调。所以它像一根鞭子，督促各级官员不得不为开源节流方面狠下工夫。根据隆庆二三年间的预算，每年国家收一百五十万两，支出四百多万两，财政赤字一百五十万两；在考成法实施三年之后，库存银达七百零三万两，每年正常开支三百九十余万两，尚有盈余三百万两，京师地区的存粮可支七八年，这是怎样辉煌的成就!今天，我们回过头来看张居正的考成法，可以看到它的一些漏洞，比如，内阁控制六科，六科控制六部，那么谁控制六阁?大约应该是皇帝。谁控制皇帝呢?没人控制皇帝。这是人治不可避免的漏洞。今天我们提出依法治国，这是一个历史性进步，但我们也看到，虽然法令、法规制定了不少，但在很多情况下，是有法不依，是权大于法；虽然制定了不少决策、决议，但往往只落实在会议室里，落实到了纸上，而没有落实到行动上，落实到结果上。制