不同的时期有所不同。

西汉时，刘邦在汉中拜韩信为大将军，位在诸将上总理军事，韩信被处死后即不常置。仅战时临时受封，战毕即除。直到刘彻，才因卫青而复置大将军，作为将军的最高称谓，位在三公上，卿以下皆拜。

东汉的大将军原位在三公下，到汉和帝时窦宪出任大将军，由于权势太大，朝廷震动，联合奏请以大将军位列三公之上。

三国时大都继承了东汉的体制，后来司马师任大将军时由于其叔父司马孚是太尉，曾改大将军在太尉下。

隋代左右武卫、左右武侯等各置大将军，为统率禁军之高级将领。唐代，大将军为十六卫长官之一，位居上将军下。随着府兵制日渐破坏，十六卫实际已经没有军队，诸卫大将军成为虚衔。禁军之左右羽林军、左右龙武军等亦设大将军，往往以宦官任之。

宋代之16卫大将军已属空衔，无统兵实权。唐至元，定大将军为武散官之首阶。明清两代于战争时由皇帝特派大将军统兵，或于大将军上再加称号，皆统兵作战，战后即废。

隋唐以后，太尉已无实际职事，明清以后不设太尉。所以在隋唐以后，大将军比太尉更有实际价值一点（除了北宋末年，徽宗年间重定武官制度后，太尉成为武阶官之首）。

关键字：