这时，正值汉朝征讨匈奴，招抚各地的少数民族。汲黯力求少事，常建议皇上与匈奴和亲，不要兴兵征讨。皇上正倾心于儒术，尊崇公孙弘，对此不以为意。等到国内事端纷起，官吏和民众都投机取巧以玩弄法律时，皇上这才分条别律，严肃法纪，张汤等人屡屡进奏他所审判的要案，因而得到皇上的宠幸。而汲黯却常常诋毁儒术，当面抨击公孙弘等人心怀奸诈而外逞智巧，靠着阿谀奉承讨好主上，而刀笔小吏专门苛究律条，巧言诋毁，构陷他人的罪责，使真相不得昭示，并把破案作为邀功的资本。皇上越来越倚重公孙弘和张汤，公孙弘和张汤则深恨汲黯，就是皇上也不喜欢汲黯，想找个借口杀死他。公孙弘做了丞相后，向皇上建议：“右内史所管辖的范围内有很多达官贵人和皇室宗亲，很难治理，不是平素就有声望的大臣不能担当这样的重任，请朝廷调任汲黯做右内史。”汲黯做了右内史好几年，任中政事从未荒废过。
大将军卫青已经日益尊贵了，他的姐姐做了皇后，但是汲黯仍和他行平等的礼节。有人劝汲黯道：“天子想让群臣对大将军谦恭卑下，如今大将军备受皇上的尊敬和器重，日益显贵，你不应该不行跪拜之礼。”汲黯答道：“大将军若是有拱手行礼的客人，不是反而使他更受敬重了吗？”大将军听说后，更认为汲黯贤能，多次向他请教朝廷中的疑难之事，待他胜过旁人。