提到晋朝，人们一般只会想到腐朽没落的贵族豪强、奢侈无耻的贪官污吏，这主要是因为《晋书》对这方面进行的描写非常生动细致，往往会给人们留下深刻的印象，所以产生了错觉，对于晋朝自然就没有什么好的评价，但是从唯物主义角度分析，一般的历史规律是依靠贪官污吏是无法实现国家统一和社会进步的，晋朝的统一和进步自然是不会依靠史书中那些被详细刻画的奢侈浮华的贵族地主们。

事实上《晋书》还记载了一大批令人钦佩、敬重的地主阶级进步分子，他们才华出众、清廉简朴，他们大多都是在晋朝担任重要职务、地位显赫的高级官员，尽管史书对他们高尚的情操描写非常简单，往往仅有十多个字，甚至更少，但是依然足以令人折服。晋朝初期有：王祥、郑冲、羊祜、杜预、张华、王沈、魏舒、李憙、山涛、李胤、卢钦、刘寔等等。他们的事迹足以和历史上其他著名的清官相提并论，令后人敬仰，即使单单阅读《晋书》的相关内容也足以让我们感动了，即使是在现代，他们的言行也完全够得上高尚的标准，体现了中华民族优秀的传统美德，是他们代表了历史的进步。

《晋书》中这些清官的简略记载有：太保王祥，他是中国古代《孝经》中的著名孝子，为人正直不善阿谀，身为三公生活简朴。人们往往钦佩他对待后母的孝顺，和他的兄弟友爱，忽略了他清廉的品质，《晋书》中他这方面的记载也不多，只是说在王祥致仕的时候赐第一区，赐钱百万，诏书称“太保高洁清素，家无宅宇，其权留本府，须所赐第成乃出”，又有“咸宁初，以祥家甚贫俭，赐绢三百匹”，以其子为上洛太守。王祥是中国古代君子士大夫的表率。太傅郑冲，出身寒微，勤奋好学，熟习经典，为人“儒雅为德，箪食缊袍，不营产业，世以此重之”。以后诏书称赞他：“太傅韫德深粹，履行高洁，恬远清虚，忠肃在公，虑不及私”。致仕时赐第一区，钱百万，绢五百匹。郑冲是一位才学出众，品行高尚，谦虚无私的儒者。

在军事指挥将领中也不乏清正仁慈、大公无私的高级将领，比如羊祜、杜预等，其中羊祜是司马师妻子的弟弟，是为晋朝统一中国奠定扎实基础的关键人物，中国古代史杰出的战略军事家，也是古代德战的代表将领，《晋书》记载：“祜立身清俭，被服率素，禄俸所资，皆以赡给九族，赏赐军士，家无余财”，他虽然身为外戚，但是没有任何仗势欺人恶习，相反他的高尚品德即使在敌国都受到普遍尊敬，“南州人征市日闻祜丧，莫不号恸，罢市，巷哭者声相接。吴守边将士亦为之泣。其仁义所感如此”。另一位著名将领杜预也是中国古代的一位军事家，除了他在统一战争中作出的重要贡献外，博学多才，人称“杜武库”，但是也全心全意为国为公，“预公家之事，知无不为。凡所兴造，必考度始终，鲜有败事”，他也是外戚，是司马懿的女婿，但是同样不贪图荣华富贵，不象腐朽的权贵那样过着骄奢淫逸的生活，而是倾心于学术研究，自称有“左传癖”。晋朝统一后，他为江南的建设发展作出了重要贡献，深受江南百姓的爱戴。

另外一位正直廉洁的外戚是山涛，他是著名的“竹林七贤”之一，在晋朝担任尚书仆射和司徒的职务，但是生活也十分清贫，“帝以涛清俭无以供养，特给日契，加赐床帐茵褥。礼秩崇重，时莫为比”，他不仅担任人事部门的负责人，还担任政府要职，在官员选拔上，他虽然总是先让皇帝提出补选官员，但是任命却也不是完全阿附皇帝，尽管因此受到小人诽谤和皇帝误解，但是依然如故，最后大家发现还是他正确而不再反对，表现了他正直、公道，有礼有节的的处世作风。他虽然身居高位，担任选举、人事要职，但是没有以权谋私“及居荣贵，贞慎俭约，虽爵同千乘，而无嫔媵。禄赐俸秩，散之亲故”，生活十分清苦，病逝以后大臣上书说他家只有十间房屋，子孙三代居住，无法容身，皇帝下诏为他家建造房屋。他的好友，竹林七贤之一的王戎也是一位清雅的名士，年轻时父亲的部属赠送他数百万钱，但是他坚决不接受，因此出名，他也参加了统一战争担任六路大军中的一军统帅，为国家统一作出贡献。有人向他行贿，他没有接受，但是也没揭发，事后虽然没有治罪，但是也被清慎者所鄙，这可能与他的道家无为思想，不愿多事有关。为人至孝，服丧几乎病死，还是皇帝派医生前往治疗。担任司徒时不喜张扬，总是微服私访，史书中错把和峤贪财的事情记到他的身上。