公元895年，乾寧二年，他因其卓越的軍事才能和無數次的戰功，被授予了檢校工部尚書的職位。
轉眼間，三年的夏天悄然而至，太祖決定向東討伐鄆州。在這場關乎疆土與榮耀的戰役中，牛存節被委以重任，領軍駐紮在故樂亭，扼守著通往鄆州的要害之路。與此同時，都指揮使龐師古則駐紮在馬頰，與牛存節形成呼應之勢。面對強敵，牛存節展現出了他非凡的智謀與決斷力。他秘密與都將王言謀劃，計劃攻入鄆州的營壘，給敵人以致命一擊。
十二月，寒風凜冽，牛存節派遣王言在鄆州西北的夜色中埋伏勇士。他們利用船隻越過護城河，架梯登上城牆，試圖一舉攻入城內。然而，王言的進攻並未能如願以償。在這關鍵時刻，牛存節展現出了他獨當一面的勇氣與智慧。他獨自率領伏兵，揹著梯子，冒著敵人的箭雨，攻破了鄆州的西甕城，並奪取了護城河上的橋樑。這一舉動，不僅為後續的進攻開啟了通道，更極大地鼓舞了士氣。各路軍隊在牛存節的帶領下，一同向鄆州城發起了猛烈的進攻。
經過數月的激戰，四年四月，鄆州城終於被攻陷。這場勝利，不僅是對牛存節軍事才能的再次證明，更是對他領導力的極大提升。隨後，他與葛從週一同降服了兗州，為太祖的霸業又添上了濃墨重彩的一筆。因此，他被加封為檢校右僕射，榮譽與地位再次得到了提升。
然而，牛存節的征程並未因此而結束。同年秋天，大軍再次出征，目標是淮南。當他們到達濠州東時，卻傳來了前軍在清口失利的訊息。各路軍隊被迫退至瞷河，隊伍潰散，士氣低落。在這危急關頭，牛存節再次挺身而出。他率領後軍阻擊敵軍，諸將下馬步行戰鬥，以堅定的意志和頑強的毅力，逐漸收攏了所屬部隊和敗兵，共計八千餘人。他們沿著淮河岸邊艱難前行，此時已經四天沒有吃飯了。然而，在牛存節的帶領下，他們並未放棄希望。他訓練部署軍隊，以防備追擊的敵軍，最終得以安全返回。這場撤退，不僅儲存了有生力量，更彰顯了牛存節出色的指揮能力和對士兵的深厚關愛。
公元896年，乾寧五年，牛存節的職業生涯又迎來了新的轉折。他被任命為亳州刺史，不久便升任為宣武軍都指揮使，改任宿州刺史。這些職位的變動，不僅是對他過去戰功的肯定，更是對他未來潛力的期待。第二年，淮南敵軍大舉進攻彭城，形勢危急。牛存節再次展現出了他非凡的智謀與決斷力。他率領部下軍隊夜間出發，直奔彭門。淮南敵軍對於牛存節的神速行動感到驚訝和恐懼，最終不得不退兵。這場勝利，不僅彰顯了牛存節的軍事才能，更讓諸將對他佩服得五體投地。
此後的歲月中，牛存節歷任多個職位，包括左衙都將兼馬步教練使、潞州馬步都指揮使等。無論在哪個崗位上，他都以治軍嚴整、士民安定而著稱。當他被召赴行在時，士卒們沿途哭泣相送，不絕於道。這不僅是對他個人魅力的肯定，更是對他領導才能的極高評價。他被加封為金紫光祿大夫、檢校司空，改任滑州左衙步軍指揮使，主持邢州軍州事務。這些榮譽和職位的變動，都是對他過去努力和付出的最好回報。
公元904年，天佑元年，牛存節再次被委以重任。他被授予邢州團練使的職位。然而，當時的邢州兵力只有二百人，而晉人得知這一訊息後，立即派大軍來犯。面對強敵壓境，牛存節並未表現出絲毫的畏懼。他深知，自己肩負的是守護疆土、保衛百姓的重任。太祖在鄴城得知訊息後，立即派遣長直兵二千人前來支援。牛存節率領這些精壯士兵出戰，用家財獎賞激勵戰士們。在激烈的戰鬥中，晉軍猛烈攻打，七日未能攻克而撤退。這場勝利，不僅彰顯了牛存節的軍事才能和領導力，更讓太祖對他刮目相看。
太祖召見牛存節時，慰勞他很久，豐厚地賞賜金帛鞍馬，並加封為檢校司徒。