魏文帝黄初元年（公元220年）曹丕即王位后，封陈群为昌武亭侯，徙为尚书。
东汉末年察举制和征辟制的弊端重重，人们都讥讽说“举秀才，不知书；举孝廉，父别居。寒素清白浊如泥，高第良将怯如鸡。”
曹操为了改变这一局面，任命陈群专管此事。陈群受命后，制定九品中正任命官吏的制度，即先在各郡推荐有声望的人出任中正，然后由他们将当地士人按才能分别评定为九等（九品），最后，由政府按等选用，这就叫做“九品官人法”。开始，这个办法还能够保持曹操用人“不计门第”的原则，以后，豪门士族把持了评定品第，逐步变成以“家世”为重的**制度，从此，“上品无寒门，下品无势族”，九品中正制度成为地主操纵政权的工具。这个制度从公元220年开始，一直延续到隋文帝初，前后实行近四百年之久。
曹丕登上皇帝之位后，陈群迁尚书仆射，加侍中，徙尚书令，进爵颖乡侯。黄初中，曹丕意欲追封太后父母，陈群奏道：”陛下以圣德应运受命，创业革制，应当永为后世所循之式。按照典籍上之文献，从无妇人可以分土命爵之制度。在礼典，妇因夫爵。嬴秦违于古法，而刘汉则沿承古例，这可不是先王之令典啊。”曹丕大悟，便道：”此议甚是，既然如此，且勿施行。以此作着诏下藏之于台阁，使其永为后式。”曹丕受禅时，朝臣三公以下皆受封爵位；独华歆因为以神色不合触忤曹丕，所以只是官徙司徒，而并无进爵。曹丕久不能释怀，便问陈群道：”我应天受禅，诸侯群后，无不人人喜悦，其形尽现于声色，惟独相国（指华歆）和你脸有不豫，这是为了甚么呢？”陈群便离席长跪道：”臣与相国曾为汉朝之臣，内心虽为陛下感到喜悦，但在义理上，臣等的神色实应畏惧、甚至憎恨陛下才对。”曹丕听后大悦，方知其意。昔年，蜀许靖曾执兄礼以事陈群之父陈纪，又与陈郡人袁涣、平原人华歆、东海人王朗等亲善；所以陈群在魏初为公辅大臣时，常与许靖有书信往来，重结旧好，情义款至。
黄初三年（公元222年）刘巴卒后，陈群常赍信与丞相诸葛亮，问刘巴的消息，并称”刘君子初，甚敬重焉。”
黄初四年（公元223年）陈群与仆射司马懿并举泰山人鲍勋为宫正，宫正即御史中丞。是岁为蜀建兴元年，陈群曾与司徒华歆、司空王朗、太史令许芝、谒者仆射诸葛璋分别致书与蜀相诸葛亮，向其陈说天命人事，希望蜀汉能举国称藩，但无功而罢。
黄初六年（公元225年）曹丕亲征孙权，军至广陵，使陈群领中领军。
黄初七年（公元226年）曹丕师还寿春，以陈群假节都督水军。曹丕回到许昌后，拜陈群为镇军大将军，领中护军，录尚书事。鲍勋时为治书执法，因屡次面谏曹丕而触怒曹丕，后又于陈留郡界包庇太守孙邕，被收付廷尉并议死罪。陈群便与太尉钟繇、司徒华歆、侍中辛毗、尚书卫臻、守廷尉高柔等联书并表”勋父鲍信曾有功于曹操”，求请赦免鲍勋死罪。曹丕不许，仍诛鲍勋。夏五月丙辰，曹丕得疾甚危，未知曹丕死后，陈群受封何官，有何政绩，请听下回分解。