府兵制是由西魏宇文泰创立，北周武帝承继发展，并在隋唐两代君主的不断改革完善中逐渐演变成为一种有效的军事制度。最终，在唐玄宗天宝年间，府兵制消亡了。
公元543年，西魏权臣宇文泰大败于邙山，西魏军被东魏军斩杀六万余人，可谓惨败而归。
正因为当时，缺兵少人的西魏有被东魏举国灭掉的巨大风险。
所以为了保家卫国，防止被敌国所灭，宇文泰便迅速搜集兵源组织壮士集结成军，即大规模招募关中陇右的汉人豪强家族子弟来当国家的正规士兵，史称其广募关陇豪佑以增军旅。
创建府兵制的宇文泰
一时间，为了保家卫国这一共同目的，西魏的汉人和鲜卑人在宇文泰的统筹兼顾下，逐渐改变原来汉人种地、鲜卑人打仗的一贯做法，开始共同参军保家卫国，胡汉交融的府兵制便由此而生。
宇文泰创建府兵制的具体措施是确立名为八军、实为六军的总体军制，以暗合鲜卑的八部制和西周的六军制，借机广收鲜卑人和汉人的人心。
西魏六军的编制为：最顶层设八个柱国，除总统军权的宇文泰和充当摆设的元欣外，其余六柱国，每柱国下辖两个大将军，共十二个大将军;每个大将军下辖两个开府，共二十四个军;每个开府下有两个仪同，共四十八仪同。
府兵制的领导机构
就这样，整个金字塔形的军事领导机构便初步形成。
领导机构有了，还得有士兵给这些军事领导管带，府兵制创立初期，宇文泰编制的一个柱国大将军领兵八千，一个大将军领兵四千，一个开府领兵两千，一个仪同领兵约千人，这样算来，六柱国合计需要筹集精兵四万八千人。
为了选到真正能打仗、能保家卫国的士兵，宇文泰虽然将选兵范围定得很广泛(汉人、鲜卑人都可入选)，但将选兵要求定得很严格。
入选府兵的第一个条件是家产富裕，有入选府兵资格的家庭，得身居六户中等以上，得有经济实力提供弓刀一具;第二个条件是家庭男性成员的人数得多，只有壮年男丁在三人以上时，该家庭中的男人才有资格被挑选为府兵，男丁少的家庭得种地交赋税服劳役，不得参军;第三个条件是兵员能力得过关，当然这是指士兵得身强体壮。
宇文泰将要求定得严格，是因为府兵待遇很好，这样才能激励士兵奋勇作战。宇文泰规定：只要入选府兵，其全家免除苛捐杂税，府兵本人在建功立业后还可按功劳受赏。
眼看待遇如此多利少弊，关陇豪佑便纷纷响应宇文泰号召入选府兵。
招收完府兵后，宇文泰规定，全体府兵，每月的上半个月要操练步伐、巡防之类的基本功;下半个月，则要在同州一带进行大规模军事演习。
如此一来，府兵在士兵身强体壮的基础上训练，便熟能生巧得专业善战起来，同时，府兵家属可免除徭役赋税，建立军功后可升官发财，所以府兵接受训练、领命作战时自然可心无旁骛地热情训练、光宗耀祖地拼死奋战。
凭借创意满满的府兵制，本来大败亏输有亡国之危的宇文泰重新振作起来，他和他的侄子宇文护、儿子宇文邕，靠府兵制的巨大潜力和巨大威力，先后扫平巴蜀、攻下荆州、攻灭北齐。
而后，隋文帝杨坚凭借府兵制攻灭南陈，完成了天下的统一。
将府兵制与均田制结合在一起的隋文帝杨坚
隋朝建立后，隋文帝、隋炀帝对府兵制进行了改革，最主要的一点是将府兵制与均田制挂钩，隋文帝规定，府兵除原有军籍、隶属军府外，还要与其家属一同列入州县的户籍，如此一来，府兵军人及家属与一般百姓一样，也可以按照均田制获得一份田地耕种。
隋文帝杨坚将府兵制向兵农合一(府兵制下的军人，亦成为均田制下的农民)方向发展，即规定府兵平时在家务农，发展经济，遇到战事时，就紧急集合，放下锄头，拿起武器，为国家而战。
此项改革，虽然解决了府兵的土地安置和国家的物资生产问题，但也为府兵制的没落和消亡留下了隐患。
到了唐代，府兵制进一步得到完善，其基本单位变为折冲府，分为上中下三等，上府1200人，中府1000人，下府800人。折冲府的长官是折冲都尉，副长官为果毅都尉。
全国折冲府分别隶属于十二卫和东宫六率，十二卫指左右领军卫、左右骁卫、左右武卫、左右威卫、左右金吾卫、左右卫，东宫六率指左右司御率、左右卫率、左右清道率。
十二卫分别设置一位大将军，并直接服从于皇帝;东宫六率则效命于太子。
府兵的选拔，每三年进行一次，征选的原则是“财均者取强，力均者取富，财力皆均，先取多丁”。
府兵一般21岁入军，到60岁退役，在服役期间，府兵可免除赋税徭役，但出战时的军资、衣装、轻武器(弓箭、横刀)和粮食、均需自备。此外，每十人还得共同准备供运输的马(或驴)六匹，即所谓“六驮马”。
自备军资对于府兵来说，是很沉重的负担。
府兵平时的职责是轮流到京城宿卫，号称“番上”，遇到特殊情况，府兵会出征或戍防外地。府兵在和平时期在各自的家乡从事农业生产，到了冬季农闲时便集中参加军事训练，如此唐朝府兵便实现了兵农合一、寓兵于农的双重目的，此举既保证了府兵的安全生产和战斗力，也减少了国家的军费开支。
从总体来看，唐朝府兵制的意图也很明显，府兵军府较多时有六百三十四府，可谓遍布全国，总兵力60余万，可是关内道，竟设置了二百六十一府，占全国军府三分之一以上，至于其余军府，则依次设置在河东、河南、河北、陇右诸道，而其它诸道，则至多不过十府，少则只有二三府(如江南、岭南)。
这种厚此薄彼的军府布局，体现了唐朝统治者居重驭轻，举关中之众以临四方的政治、军事意图，能够保证中央政府对地方的绝对控制。
最重要的是，府兵的调遣权是皇帝通过尚书省兵部牢牢掌控的，中央十二卫长官和地方的州县长官均无权私自调兵。国家遭遇战争时，一般由皇帝临时任命将军统率府兵出征，打完战争后，将军回到朝中任职，府兵回归各自军府。一般情况下，将帅没有统兵之权，在战时，将帅会临时与府兵们结合在一起，作战完毕，将帅就得立刻将府兵们遣散回各自军府，将兵符交还兵部。
府兵的调兵权由尚书省下辖的兵部管辖
总之，兵部调兵权和将帅临时统兵权的严格分离，确保唐朝统治者对府兵能够做到绝对控制，能够强有力地维护国家的安定和统一。
前面提到，隋文帝将府兵制下的军人，改革成了均田制下的农民，府兵军人便极为依赖均田制，因为他们的军资需要自备，所以田地粮食产出便是他们的必要收入，用以购买军资。
唐朝前期，国家施行的均田制还能确保官僚贵族和百姓均能分得田地耕种。
但是，由于官僚贵族可得到的土地很多，而百姓常常得不到充足的土地，特别是，永业田和口分田在一定条件下可以买卖或转让，所以官僚等贵族的大规模土地兼并渐渐抬头，因为越来越多的百姓为不时之需(婚丧嫁娶)或意外之患(瘟疫灾害)而变卖各自的土地，这导致官僚贵族和富商、寺院争相强买百姓的土地。
曹操曾认为，百姓不患寡而患不均，不患贫而患不安。
均田制就因为官僚贵族、富商、寺院的强买式壮大而变得分田不均，导致穷者愈穷，富者愈富，社会矛盾因此加剧。
所以均田制的崩坏，也导致府兵制度逐渐走向衰亡。
因为一旦均田制下的田地被大贵族、大官僚、大商人垄断了，大多数府兵便没有田地生产粮食，没有用以购买军资的收入，就会自残逃役、随意逃跑;同时，府兵本来实行着三年轮换守边的制度，但由于西方吐蕃和北方突厥的不断壮大，在唐高宗和武则天的统治下，唐朝边防战争越来越频繁，长期驻守边疆的府兵数也越来越多，府兵的戍期也越来越长，甚至远远超过三年，边疆将领也频繁克扣兵士的军饷、掠夺兵士的军资，驻守长安的府兵还被达官贵人随意奴役，就这样，依附在均田制上的府兵制便因为均田制的崩坏、统治者严令的延期戍守、边关将领的克扣掠夺、京城豪族的随意奴役而消亡。
天宝八载(公元749年)，鉴于军府无兵可交，唐玄宗遂下令停止折冲府的征发府兵，府兵制终于废止。
宣布废除府兵制、采纳募兵制的李隆基
综上所述，府兵制兴于西魏危急存亡之际，后帮助宇文家族扫平了北方，帮助隋文帝扫平了南方，隋文帝鉴于军府人数众多后勤供应不足，便将府兵制与均田制联系起来，后经唐太宗李世民的发展壮大，府兵制极于全盛，可是由于唐高宗李治、武则天的随意糟蹋，由于人口的大规模增长和官僚、贵族对农民田地的强买式兼并，均田制逐渐遭到破坏，同时，依附于均田制上的府兵制便如无根之木般逐渐消亡，最终被募兵制取代。