当年隋伐陈时，杨坚也让杨广为淮南道大行台，总督五十余万人马攻陈。
但是其服从却与河南道行台共普通，设立以后可各自独当一面，作为独立军团行动。打消了本来各郡郡兵，府兵，处所行政各不归属的局面，而是作为战时临时机构整合起来。
“擢王珪，为河南道大行台尚书左仆射。” “擢薛万述，为河南道大行台尚书右仆射。” 河南大行台，便是遵循尚书省设立，普通而论，行台长官都必须是由尚书省中摆布仆射担负。这也是制止防备处所官吏擅权。
但仅仅一个河南道大行台还是不敷的，李重九拿起笔来，写下诏令，任命宋金刚为江南道行台左仆射，萧跣为右仆射，赵欣为行台兵部尚书，左升天为行台吏部尚书。
河南道行台非常强大，兵力几近能够与幽京并驾齐驱。其麾下节制河内，洛阳，河南赵军，下辖徐世绩的屯卫军，单雄信的侯卫军，程名振的内河海军，王薄，孟海公的人马，以及河内，河南十余郡郡兵，人马靠近十万之众。