谢安之所以四十多岁才出来做官，是因为谢家当时有失势的迹象，需要他出来重振家门。
而因为其本家就是士族高门，故谢安什么时候出来都有官做。搁到现在，公务员考试年龄截止到35周岁，谢安连报名的资格都没有，就是因博士学历年龄放宽，报考的也是主任科员以下的职位。按任职满三年才能一升的规定，退休前弄个正处级就算祖坟冒青烟了。而谢安一出来，就是妥妥的副国级。
史籍中一直描述谢安面对前秦大军如何如何淡定，其实，谁面对这么一支巨无霸的远征军,都只能蛋疼。好在谢安毕竟是士族中的精英，手里也有自己的王牌。
北府兵。
东晋当时所辖领土，按职能划分，可分为军事重镇和生产基地两部分。
军事重镇主要是荆州和扬州。荆州位居长江上游，地广兵强，是东晋北方的门户所在，战略位置极其重要，荆州设有都督府，物产、兵力占国内占东晋的一半（资实兵甲，居朝廷之半）。
而扬州，辖首都建康，是京畿之所在，乃东晋立国之根本。
东晋的生产基地，主要是三吴及浙东地区，是东晋的粮棉基地。
在乱世，荆、扬二州的长官地位远高于其他疆臣。但，荆、扬二州的长官要论短长的话，则是各有千秋。
扬州，因是京畿所在，其地方长官可称疆臣之首，政治地位要略高于荆州刺史。
荆州，占有全国一半以上的物资和兵力，荆州刺史是东晋最大的军阀、第一实力派。看看前荆州刺史王敦，皇帝一做令自己不顺心的事，直接率兵杀进京师教训一下皇帝。另一任荆州刺史桓温，则差点自己做了皇帝。
谢安虽然贵为宰相，却一直为来自两方面的威胁所心焦。一方面，自然是来自北方的前秦；另一方面，就是来自内部的荆州。
前文已有所述，荆州刺史兼扬州刺史（这个最狠）桓温意图以功高篡位未成，但他的继任者一点也不令谢安省心。
因为，接任这个位置人的也姓桓，叫桓冲，桓温的弟弟。
王、庾、桓、谢，东晋四大门阀，士族势力强大。桓氏掌握军权，连皇帝都要忌惮三分，谢安虽是宰相，也投鼠忌器，不能轻易对桓氏开刀。
怎样才既能抵御前秦的南侵，又减缓地方军阀对东晋中央朝廷的压力？谢安给出了答案。
编练新军。
东晋当时实行世兵制，部队特别是中央军缺乏训练，实战机会又少，战斗力非常之弱。为充实长江下游的军事力量，拱卫首都建康，制约长江上游荆州桓氏势力，在谢安的规划下，377年10月，东晋任命谢安侄子谢玄为建武将军、兖州刺史，领广陵相、监江北诸军事，着手编练新军。
谢玄上任后，把军事办公地点从京口（今江苏镇江市）移到了广陵（今江苏扬州市），发出募兵告示，兵员主要从南徐州（机关所在地京口）、南兖州（机关所在地广陵）二地招募。
谢玄从此二地招募士兵，并非随意决定，而是经过深思熟虑的。
徐、兖二州，是北方逃往到南方的流民的集中地。前文提到过，由北方流民组成的“乞活军”，是五胡十六国时期一支战斗力强悍的特种部队，北方流民民风之彪悍世所罕见。
荆州刺史桓温曾明确指出：“京口酒可饮，箕可用，兵可使。” 东晋老百姓称京口为“北府”，故这支新军被称为北府军。
北府军，从某种意义上说，是“乞活军”的官方版。
后世袁世凯的北洋新军，能募到王士珍、冯国璋、段祺瑞、曹锟、张勋，前世谢玄的北府军也募到了彭城刘牢之、东海何谦、琅琊诸葛侃、乐安高衡、东平刘轨、西河田洛、晋陵孙无终等猛将。
北洋新军有北洋三杰，北洋之龙王士珍、北洋之虎段祺瑞、北洋之犬冯国璋。而北府军，也有自己的“北府之龙”。
刘牢之。
刘牢之，字道坚，汉族﹐彭城(今江苏徐州)人，出身东晋将门，父辈皆是晋朝军官，可谓一门列戟（世代以壮勇称）。
《晋书刘牢之列传》载：牢之面呈紫赤色，须目惊人，而沈毅多计划。从面相上看，从事体力锻炼多，且雄性激素分泌旺盛。
参加北府军后，刘牢之被谢玄任命为参军，极为倚重。而北府兵经过严格训练，渐成强悍之师，成为东晋朝廷极为倚重的一支部队。
北府兵第一次露脸，是在379年。379年5月，前秦大将句难、彭超部进攻淮南，并包围三阿。北府兵援救三阿，一战告捷，迫使前秦兵向北退逃。
383年，前秦王苻坚大规模发动南征东晋的战争时，北府军已成立7年，抵抗前秦远征大军、保家卫国的神圣使命，将会落在这支强悍的部队肩上。