他一方面严格地考核各级官吏，用法规约束他们，另一方面在倡廉的同时，也考虑到养廉问题，明朝建立的前一年，即吴元年(1367年)七月，他曾任命二百三十四名郡县官吏，并特意发给他们优厚的派遣费，如发给知府、知州、知县文绮四匹、绢六匹、罗二匹、夏布六匹，府、州县佐贰官为长官一半；道里费，知府赐白金五十两，知州三十五两，知县三十两，同知发给知府的五分之三。朱元璋说：新授予的郡县官，多出自布衣，为了避免他们到地方后侵扰百姓，因此赐他们道里费等，以善其廉。可见其用心良苦。1372年(洪武五年)，他又下诏，命考核官员首先要看学校、农桑等实政。朱元璋对那些为政清廉、安抚百姓的官吏，经考核优异者，大加表彰，晋级提升。如嵩县典吏刘某，任满入觐，朱元璋接见他时，发现他穿得衣服非常的朴素，便对中书省大臣们讲，当官的因衣食原因向老百姓搜刮的大有人在，而嵩县典吏如此贫困，难道不是为官清廉的人吗?于是下命以布帛赏赐给他。又如宁国知府阵灌，在地方设立学校延聘教师；访民疾苦，禁止豪强兼并；不筑堤，保民田亩；用刑宽恤，安抚百姓。朱元璋以此为榜样，颂行全国。再如济宁知府方克勤，鼓励农民开垦，三年不收税，在任期间，他垦荒兴学，户口增长数倍，一方富足，而他自己身穿布袍，十年不换，十分简朴清廉。1375年(洪武八年)他入朝，朱元璋赐宴嘉奖。还有新化县丞周舟，业绩突出，有廉洁勤政的好名声，被升为吏部主事，后因新化县百姓的请求，朱元璋又命他回原县继续治理地方。当时这种清廉自励，廉洁奉公的官员还有不少。1371年(洪武四年)，刑部从狱中囚犯御史台管勾，宇文桂处得到书信百封，送交朱元璋过目，其中有一封是王升托宇文桂转交给他儿子、平凉知县王填的信，信中教导王填：“凡事须清心洁己，以廉自守。”又说，“读书之人，慎勿以富贵为念。……治民为仁慈为心，报国以忠勤为本，处己当以谦敬，学业更须勉力。”朱元璋看后非常高兴，认为王升是位善教者，在贪风遍布之中，能看到这种家训，更难能可贵。朱元璋为王升这种劝善惩恶，移风易俗的品质所感动，于是下令中书省遗使带诏书前往宣谕，将其释放，并赐白金一百两，绢十匹，附送王川椒五斤，以表彰其贤良。同时，又命免其全家徭役。朱元璋破格提拔王兴宗一事也很典型。龙凤七年(1361年)，朱元璋攻取婺州后，任命自隶出身的王兴宗为金华知县，当时文武重臣李善长等表示反对，认为王兴宗出身微贱，难当此任。朱元璋认为：王兴宗跟随自己多年，此人勤廉能断，一般人比不上他。果然王兴宗任职三年，政绩卓著，远近闻名。朱元璋又升他为南昌通判，不久又改任嵩州知州，再迁怀定知府。有一年，地方官入觐朝见，朱元璋逐个考问，轮到了王兴宗，明太祖说此人公勤不贪，不须问，又任命他做苏州知府。1377年(洪武十年)，朱元璋又升他为河南布政使，成为封疆大吏。1387年(洪武十六年)，国子监生陶垦仲被朱元璋任命为监察御史，他为人清廉正派，弹劾从不避权贵，他曾弹劾刑部尚书开济违法乱纪行为，使开济伏法被诛。随后，朱元璋提升他为福建按察使，到任后，又诛杀贪官污吏十人。他兴学劝士，抚恤军民，鼓励农桑，政绩卓著，朱元璋为此下诏表彰。