龚遂轻车简从到任，安抚百姓，与民休息，鼓励农民垦田种桑，规定农家每口种一株榆树、100棵菱白、50棵葱、一畦韭菜，养两头母猪、五只鸡。对于那些心存戒备，依然带剑的人，他劝谕道：“干吗不把剑卖了去买头牛？”经过几年治理，渤海郡一带社会稳定，百姓安居乐业，温饱有余，龚遂名声大振。
于是，汉宣帝召他还朝，他有一个属吏王先生，请求随他一同去长安，说：“我对你会有好处的！”其他属吏却不同意，说：“这个人，一天到晚喝得醉醺醺的，又好说大话，还是别带他去为好！”龚遂说：“他想去就让他去吧！”
到了长安后，这位王先生还是终日沉溺于狂欢，也不见龚遂。可有一天，当他听说皇帝要召见龚遂时，便对看门人说：“去将我的主人叫到我的住处来，我有话要对他说！”
龚遂还真来了。王先生问：“天子如果问大人如何治理渤海郡，大人当如何回答？”
龚遂说：“我就说任用贤才，使人各尽其能，严格执法，赏罚分明。”
王先生连连摇头道：“不好！不好！这么说岂不是自夸其功吗？请大人这么回答：‘这不是微臣的功劳，而是天子的神灵威武所感化！’”
龚遂接受了他的建议，按他的话回答了汉宣帝，宣帝果然十分高兴，便将龚遂留在身边，任以显要而又轻闲的官职。