黃明徵命王虎臣為先鋒，馮端為嚮導，率五千人馬先行，而自統率陰山衛主力緊隨其後。
行軍司馬陳文約勸道：“馮端的身份真假難說，即使他真為豐州舊將出身，但已出豐州，又加入賊軍，也難以讓人相信。且馮端等人之前幾度機會不曾投降，今勢屈而來，恐為詐也。”
黃明徵說道：“我豈不知馮端等人不可輕信，但不得不承認，此次是破膚施城最好的機會了。況我軍較之梁軍，佔據優勢，只要奪下城門，則膚施城必破，為此冒些險是可以的。”
王虎臣跟著馮端一路來到城下。
這時城頭的李正寶見到城下來人，立刻開啟城門，引隋軍入內。
王虎臣讓人入城，然後登上城牆，接管整個西城門。李正寶身邊俱是親信，因此見狀也不抵抗。
於是隋軍乃完全佔據城門與城牆。
此時黃明徵也趕到城下，眼看王虎臣進展順利，放下心來，便下令全軍入城。
這時馮端帶著李正寶來見黃明徵。
李正寶上前拜道：“末將榆林驃騎府鎧曹上吏李正寶拜見將軍。”
黃明徵上前將李正寶扶起，一副高興地樣子說道：“正寶智破梁逆，真大漲我豐州將士威風啊。”
李正寶和馮端聽了更是欣喜。黃明徵一句話，便承認了李正寶和馮端二人豐州舊將的身份，往後在豐州軍中，不用再擔心了。
李正寶此時想在黃明徵身邊多表現一下，於是帶著隋軍騎兵往梁師都的皇宮而去。
此時城中的梁軍還正與稽胡人血戰，一眾稽胡其勢已經陷入危局。其大營早被攻破，劉萬全只得帶著幾個人在幾處柵欄處依託地形抵抗。
但劉萬全和一種稽胡人也知道沒有退路，因此雖然搖搖欲墜，但仍在咬著牙勉力支援。
在陣前督戰的梁師都已經殺了兩個攻擊不利的將領，但仍然沒能撲滅稽胡人。
之前已經有北門守軍，前來稟報，隋軍大營有大規模的調動，梁師都心中更是憂心忡忡。但此時騎虎難下，為求速勝，他不得不親自前來督戰。
就在這時，梁敬恕哭訴著來到梁師都的身前大喊道：“兄長，隋軍入城了。其直奔皇宮而去，皇宮守不住了。”
梁敬恕奉命守衛皇宮，但隋軍一到，還未交戰，他便立刻逃走，著實是對隋軍喪了膽魄。
梁師都聽聞隋軍入城，如遭雷擊。這四門守備的好好的，隋軍如何入的城？
“怎麼可能？怎麼可能？”
隋軍已經入城，再糾結這些已經沒有什麼意義。
這時大將辛獠兒上前說道：“天子，快撤吧，隋軍既然入城，我軍必然不敵，沒必要在此白白消耗。我軍還有弘化郡，只要突圍而出，還有捲土重來的機會。”
梁敬恕聽了，也趕緊說道：“兄長，辛將軍說得對。咱們前往弘化郡，聯絡薛舉，聯絡突厥人，聯絡李唐，總能有得勝的機會。”
梁師都為二人勸動，便下令全軍突圍。