敗退到台灣之後，以湯恩伯對蔣介石之忠誠及他帶到台灣較為完整的部隊，本來尚有被重用的可能；但根據2004年初去世、曾任蔣介石機要秘書十多年，與蔣關係甚深的周宏濤[2]，在他的自傳「蔣公與我」書中所述，當時美國人對國軍將領都很失望，對湯恩伯尤其不滿，認為他無能。美國駐台代辦師樞安（Robert C. Strong）即曾向國府明白表示，不該再用湯恩伯。蔣介石於大敗之餘，喘息未定，仍處在危疑震撼情勢之下，迫切企求美方伸出援手，對美國人的批評意見非常重視，因此，湯的前途已不樂觀。
按周宏濤所說，恰在此時，又有外電報導蔣介石在日本購置豪宅，作為台灣危急不保時避退之處，經蔣介石嚴令密查後發現，原來是湯恩伯的手下，在東京為湯所準備的。這事使蔣介石極為不悅，從此不再起用湯恩伯，只給了他一個戰略顧問的空銜。
稍早，民國三十八年（1949）湯任京滬杭警備總司令時，陳儀是浙江省政府主席，陳派了外甥丁名楠持其親筆信，秘密赴上海面交湯恩伯，勸湯率部叛蔣投共，湯衡量情勢，未聽陳的勸說，並把這事向蔣報告，使得陳儀被捕且於民國三十九年（1950）在台北被槍斃。
