后来，安禄山、史思明，趁中央兵力空虚，发动叛乱，议者多归咎于对府兵制的破坏。其实，设使府兵制继续保持，唐玄宗亦断难加以制止和讨平。
就府兵制与募兵制两者关系而言，募兵并不始于张说，唐初以府兵为骨干，也兼行征发招募兵士。高宗时勋赏不行，应募者因而日少。发展至开元中，张说以募兵制取代府兵制，不过使募兵制度化而已。而且，募兵并不是府兵败坏的原因，而恰恰是府兵败坏的结果。
府兵制度既已破坏，宿卫京师的任务也必然要以募兵取代府兵了。在实行募兵制度之初，在军事上确实起过积极的作用。开元十年(722),也就是在设“矿骑”的同时，张说奏罢这兵二十余万以还农。
这二十余万的边兵，主要是长期背井离乡，思乡心切的中原各地的府兵。玄宗担心裁减二十余万边兵后会削弱边防的力量，对张说的建议表示怀疑。张说之意在减轻农民的负担，同时使大量的劳动力归农，对封建农业生产也是有好处的。
另一方面，张说敢以全家性命担保来求罢兵二十余万，表明边镇的防守力量已臻巩固，而这正是募兵逐步取代府兵的结果。