邱清泉字雨庵。本名青錢，浙江永嘉蒲州人。其先本贛人，雍正中，遷居麗水。咸豐初，洪、楊踞之，舉家避難徙永嘉。父箴涵，少時家境艱苦，曾業縫工，兼管負販。後以工資積蓄，乃開設魚行，收入漸佳，遂購置田產自耕。母余氏，撫一女三男，清泉居長。
甫八歲，入私塾，讀聖賢之書。清泉家寒，以故發憤，於學猶勤刻。好讀史典，硃筆圈點及眉批，忘倦不疲。未五歲，儒門經典皆諳熟，漸窺門徑。每值假即歸家，日助田間勞作。晚間埋首攻讀，母則陪伴編組蒲鞋，黃卷青燈，書聲與織聲和，至夜深乃罷。清泉工詩文，蓋自茲始。
民國二年，入基聖小學。五年，入永嘉高等小學。七年，至溫州，入浙江省立第十中學讀書，學績斐然，以榜眼竟業。八年，入永嘉膺符青年聯合救國會。十一年，業竟。後，于右任奇之，召入上海大學。
十三年七月，入黃埔，習工兵之術。
十四年正月，隨蔣公東征惠州，討陳炯明。與淡水、棉湖之役，有勛。六月，楊希閔、劉震寰叛踞廣州。清泉自潮汕星夜馳歸，逐之。九月，再討炯明。事平，隸第四軍第十二師張發奎部，授上尉連長。十五年，隨師北伐。八月，強渡汨羅江。九月，清泉掘地道攻武昌。十月十日，拔之。旋，奔贛。架木橋於贛江，大軍得濟。十一月，攻南昌。七日，克之。清泉因書告父云：「壯志手中三尺劍，雄圖胸里十萬兵。」以言其志。十六年正月，至武漢，授中央軍校工兵連長。十六年五月，寧漢齟齬。共黨囚之密室，凡十餘日。得間遁去，奔南京。方至，又為寧卒所逮。羈囚數日，蔣公聞，得釋。六月，入總司令部，為訓練處少校科員。十一月，授總司令隨從參謀，襄贊軍務。十七年四月，授第九軍第少校營長，鎮南京棲霞山。十二月，晉中央軍校中校隊長。十八年二月，調第二師直屬工兵營，授中校營長。十九年三月，至洛陽，與閻、馮戰。十月，鎮潼關。
二十年四月，晉第十師上校團長，鎮南昌。八月，至漢口，為豫鄂皖剿總上校科長。二十一年，至廬山，為工兵組組長。二十二年十一月，擢中央軍校少將處長。二十三年五月，蔣公師德兵法，欲遣將入習。召諸將試，清泉奪魁。遂奉令至德國，學軍事。七月，入柏林陸軍大學。後，入工兵專門學校，專習工兵。十月，復入德國陸軍大學。二十六年五月，業竟歸國。授教導總隊參謀長，隸桂永清部。八月，率部與倭賊會戰淞滬。後，協守南京。十一月，城陷。清泉匿城中。初，賊大至，紫金山、光華門危急。永清嚴令清泉奔下關渡江，同行西走。清泉云：「總座先行，卑職暫留，以計大軍出城。」後，城陷，不得出。二十七年二月，清泉扮流民，乃遁出。賊既陷金陵，屠戮民眾幾三十萬。清泉睹，恨切齒，誓以啖虜噬賊為念。至是，臨敵多不顧，奮勇衝殺。人驚懼，號以「邱瘋子」。
三月，授第二○○師少將副師長。五月，調任第一戰區第一縱隊司令官。專司工兵。十月，授新編第二十二師師長，隸杜聿明節制。二十八年十二月，與倭賊戰於桂南崑崙關。聿明令第二百師副師長鼓璧生迂賊後，令邱清泉師裝甲車於林。令鄭洞國師攻賊側。清泉令一部誘敵入，埋地雷於道，集精銳伏於山。十九日，賊陷五塘，逼六塘。夜，清泉秘遣工兵炸五塘、六塘橋，國軍自山上殺出，諸地伏兵四起。清泉親駕裝甲車沖賊陣，殺賊甚重。聿明部亦至，四下合擊，賊大敗。擒殺賊酋中村正雄以下五千人。捷聞，國府授清泉四等寶鼎勳章，擢晉第五軍副軍長。賦詩云：「歲暮克崑崙，旌旗凍不翻。天開交趾地，氣奪大和魂。烽火連山樹，刀光照彈痕。但憑鐵和血，胡虜安足論。」 自是，賊聞清泉至，多有懼色。
二十九年五月，蔣公器之，擢晉第五軍副軍長。 九月，授委員長侍從室參議。三十年三月，授軍訓部訓練處長，兼重慶第三警備區司令官。三十一年，調為中央陸軍校第七分校副主任。三十二年一月，晉第五軍軍長。時，大軍新敗緬甸，氣沮。清泉整訓士卒，撫慰周恤，卒感之。居數月，軍容肅然。國府閱視，以清泉部為第一。秋，母余氏卒。清泉傷感，賦詩祭云：海天遙望落霞紅，機抒聲消井臼空。常為遠遊違左右，徒勞征戰轉西東。寒霜肅殺悲慈竹，冷雨淒涼泣古桐。縱有俸錢多十萬，承歡無路哭秋風。上奪情，令視事。
二十七年，守河南，鎮豫東。時，賊勢大。宋希濂誡清泉云：「賊酋土肥原長兵，請慎之。」清泉矜曰：「賊黠何懼？來即戮之。」六月，賊犯境。二十一日，清泉擊賊於蘭封城外。清泉恃裝甲之利，敗之數次，賊卻。後，國軍諸部圍賊，欲全殲之。賊絕望，乃死戰，集眾大至，奮擊清泉。無備，敗績。桂永清守蘭封，亦稍懈。賊竟潰圍出。事聞，上為嚴詞申斥。後，國府屢考諸軍，以清泉馭軍整肅，多踞魁首。蔣公深器之。後，事竟解。
三十三年，國軍反攻緬甸。希濂率第十一集團軍入滇西，攻龍陵。久不克。蔣公怒，將治罪。九月，清泉引軍馳援。及至，斷緬滇路，絕龍陵、芒市交通。清泉語希濂云：「可火燒背陰山，水淹龍陵。當拔之。」 龍陵賊聞，軍亂，請援。國軍乘勢擊之。十月十九日，清泉親臨督戰，出奇兵迂迴緬滇路，絕賊歸途。截賊眾至數斷，故不能呼應。龍陵賊聞，棄城遁。遂克城。後，清泉部循緬滇路長驅入，入緬。事聞，國府褒獎。
初，蔣公以黃埔為嫡部。諸黃埔將皆以資履論，乃居希濂下。清泉素輕希濂，不悅。清泉起寒微，愛士卒，與諸將多不為禮。因是人多惡避之。三十四年，班師歸國。過保山，清泉題詩云：「安論經緯起斯民，終為浮雲蔽日頻；獨仰雲山遙萬里，常揮涕淚泣孤臣。」 有怨望。
三十四年冬，鎮昆明。三十五年，晉陸軍二級上將。三十六年，授任國軍整編第五軍軍長。
後，蔣公知其故。重之。因令為前驅。三十五年七月，拔淮南。賦詩云：從來王業歸漢有，豈可江山與賊分。眾多狐鼠遁逃外，河朔家家望五軍。有驕色。三十六年五月，張靈甫戰歿，國軍多敗績。諸軍皆憚粟裕、劉伯承，獨清泉無懼色。八月，與劉伯承戰於定陶，復諸地。伯承憚其悍，多避之。清泉因云：「共軍遇第五軍不戰。」
三十七年六月，與共軍戰於豫東。裕軍拔開封，俄棄之。清泉冒進，入城踞守。裕得間，擊區壽年，全殲其部。黃百韜亦被圍，大苦。清泉逡巡，不救。蔣公電斥云：「與友軍相處，不解圍，不互救，殊堪痛恨！」令援百韜。清泉不得已，死戰出城，乃救百韜出。事解，坐不援壽年事，為上申斥。清泉怒，竟自辭去，歸永嘉。
九月，國府立徐州剿總於徐州。蔣公令起復。擴第軍為第二兵團，令清泉署理司令。尋，授司令。二日，歸鎮虞城。十六日，裕攻濟南。清泉率部援。二十四日，至曹縣。聞濟南陷，遂奔商邱。至，以商字諧傷音，懼為不祥，憂懼。
十一月，上令歸徐州，鎮碭山、永城，拱衛徐州西備。後，清泉違令，屯兵永城、宿縣。時，何基灃、張克俠倒戈，徐北虛。李彌聞變，歸徐州。時，黃百韜自新安鎮奔徐州，因失翼衛。六日，百韜軍困碾莊。聿明令清泉救百韜出。十三日，清泉軍攻碾莊圍師，不克。翌日，復以坦克組隊沖之，拼死以戰，欲出百韜。士卒死至數萬，終不得進。乃與聿明計，調第七十四軍出徐州九里山。聿明許之。第七十四軍方出，至潘塘鎮。遇狙，不得進。二十二日，百韜軍沒，敗死。二十四日，攻寶光寺、褚蘭。二十九日，黃維被圍雙堆集。蔣公令棄徐州，南走永城。清泉親率軍走肖縣、永城。方至孟集，聞部將郭吉謙、鄧軍林部被圍襄山廟。清泉令回師救吉謙。參謀長李漢萍非之。清泉曰：「吉謙、軍林，屢立功勳。倘我不救，麾下寒心。誰為死戰？「歸，竟救吉謙出。因以遲滯數日，不得走永城。南歸路絕。十二月，入曲興集。四日，裕集三十餘萬於永城。圍之。十六日，圍急。毛公以書招降。聿明稍遲之。清泉厲曰：「若降之，骨氣何存耶？「聿明色變，終不敢降。清泉歸，令憲兵云：「倘有臨陣寄書者，立誅之。」以故無敢言降者。
三十八年正月，共軍總攻。六日，清泉軍亡損幾盡。未幾，麾下軍十二萬皆沒。十日，自戕死，年四十七。事聞，國府追贈其為陸軍上將，發褒揚令，贈授青天白日勳章。國府遷台，移靈忠烈祠。髮妻黃氏，生子國賢。後妻葉氏，生子國渭。皆在台灣。清泉好兵事，遺集有《教戰一集》、《教戰二集》、《軍隊生活教育》、《建軍叢論》諸篇，皆傳世雲。
史臣曰：清泉為將，多遠慮，屢出奇謀。臨陣驍勇，擊倭多勛，與鍾麟齊名。雅愛詩道，可稱儒將。歿亡沙場，自是如歸矣。
一九四九年元月九日下午，杜聿明將軍的前進指揮所退入陳官莊第五軍軍部。晚十九時，陳官莊核心陣地被突破，邱將軍仍率特務營固守照壁據點，與解放軍反覆拼殺。十日零時，邱將軍率兵團部人員在警衛營保護下向南突圍，意圖到張廟堂第二○○師指揮所與該師併力衝出。突圍過程並不順利，杜副總司令在衝出兵團部時即與隨從被衝散。邱將軍途遇通信營營長程渭濱，程營長報告兩小時前已與第二○○師失去聯絡。凌晨二時，兵團部逼近張廟堂，遭解放軍阻擊，突圍部隊傷亡慘重，兵團部到達花小廟附近。
邱氏在突圍前，已向上尉副官陳亮索要手槍。邱將軍在獲報突圍無望後，眼見身邊殘餘百餘官兵倉惶悽慘狀態，四處解放軍大呼繳槍不殺。邱將軍不忍隨從官兵繼續犧牲，乃大聲喝令追隨自己的官兵各自逃生去。追隨在邱氏身邊的人員多系親信之軍官或衛士，不忍離去。其中一位大喊：「司令官你呢？」邱氏喝道：「他媽的，不成功就成仁，你們到南京集合，不要管我」。部份官兵哭喊著要與司令官同生死，邱將軍乃舉槍作威嚇狀，喝道：「不走就先槍斃你們」。同行官兵見邱將軍執意要他們離去，可能認為邱氏怕目標顯著不易逃生，所以紛紛掉頭亂跑，自尋生路去了。邱將軍身邊只剩警衛營營長遠碩卿、副官陳亮、衛士徐仁成、警衛營通訊兵何永福。
邱將軍下完最後命令後，面南而立，舉手敬禮向校長（蔣介石）訣別（這幕有許多官兵目擊），禮畢見隨行官兵紛紛散去，邱將軍乃偽裝乏力，躺倒在地，口稱不能再走了。部份官兵不知往何處逃，仍在附近徘徊（包括搜索營營長高毓民、技術連連長黃志超及副官處處長黃福階）。邱將軍的隨從知道邱將軍有殉國之心，但見邱將軍倒臥休息，也放鬆戒心，邱將軍一向體力充沛，此時籍故倒臥，顯系藉口。
邱將軍一臥地，馬上自大衣中抽出腰間所佩電光手槍，打開保險向腹部開一槍，隨從被槍聲驚動，回看將軍倒臥處，邱將軍一槍中左腹，自知未死，又恐衛士奪槍，於是馬上再開兩槍，兩槍均因右手顫抖與痛苦中的暫時失去意識而偏向。將軍自射3槍後，力氣用盡，痛苦倒地。
邱將軍倒地後，痛苦不堪，細聲命令遠營長補槍。遠營長一時震驚，不知如何反應，邱將軍乃喝斥遠營長，說道：「你要留我給共匪當俘虜嗎？你想抗命嗎？」。遠營長回過神後，忙問平時保管邱氏佩槍的副官陳亮槍由何處來，陳亮答道：「這是美國顧問送他的電光手槍，平時是由我攜帶，今晚他向我要手槍，可能事先就有這個準備」。這時邱氏力氣已盡，在地上喘著氣，但仍瞪視遠營長，並以手指著遠營長。陳亮系邱氏同族妹夫，見邱將軍痛苦，又傷在胃、腎致命處，乃向遠營長說道如此看來生命是不保了，免他受罪吧。遠營長渾身震顫，熱淚盈眶，不忍動手，乃示意站在一旁的通訊兵何永福開槍。何永福拾起手槍，在邱清泉面前舉起手槍，邱將軍開口喝其開槍，何永福一槍擊中左胸，一槍擊中右胸。邱闔眼倒地，口仍作喝斥狀並未完全閉合。
何永福開槍後，馬上丟下手槍逃去，副官陳亮、衛士徐仁成也跑開，遠營長仍呆立於邱將軍身側。在四處徘徊的官兵遙見邱將軍自殺即四處逃散。技術連連長黃志超遠遠見到邱將軍自殺，淚流滿面，暗地說道：「司令官，您可算是為黨國盡忠了」。時為一九四九年元月十日三時十四分。
四周兵團部殘部仍在開槍，試圖突圍，解放軍也向丘氏殉國方向開火，一枚炮彈傷及遠營長背脊。遠營長負傷後心亂如麻，也倒臥在邱將軍遺體身側。不久天亮，遠營長已經沒有抵抗意志，見到解放軍搜索兵過來，乃舉起軍帽表示投降。解放軍招手要遠營長走過去，遠營長即稱系邱將軍衛士，正護衛邱氏遺體。解放軍不敢怠慢，馬上將遠營長帶去見其長官。解放軍軍官詢明詳情，找到邱清泉遺體。因為遠營長自稱衛士，又身負輕傷，所以遠氏在短暫盤問後獲釋，發給路條聽任離開戰場。
解放軍三野一縱發動當地居民張遂等四人用軟床將丘將軍遺體運往蕭縣錦橋村。當夜解放軍又用汽車將遺體運往單莊，用擔架置於民屋中，由當地甲長王中義為邱氏洗身。解放軍辨明為邱將軍之後，即以...並拍照，隨後入殮，並埋葬於單莊以北荒林中的亂墳崗中。
此後，中共官方鼓勵原丘兵團被俘將校李漢萍等人撰寫關於丘清泉之死的相關回憶，但無法清查到目擊丘氏最後一刻的目擊證人，只好依道聽塗說與解放軍陳官莊戰後本身的戰報將丘氏之壯烈殉國說成「發瘋亂跑被流彈擊中喪命」。此說列為官方說詞數十年，但瑕疪百出，在拍攝電影時甚至為邱氏自殺一幕商討多時。四十年後，解放軍在邱將軍遺體補槍假造戰報之說逐漸浮現。
國軍早期也沒有確實證據證明邱將軍系自戕殉國。直到來台後整理當事人口述，才得到大致經過。唯國軍宣傳機關過於無能，官方竟有多種自戕版本流傳，以致真實歷史隱微不彰。
遠營長輾轉抵達南京第二兵團留守處報到，報告了邱將軍殉國狀況。國防部此時已得知解放軍在報上刊出邱將軍遺照，遠營長乃假稱邱氏遺體由兵團副官處處長黃福階交出，但承認下令為邱將軍補上致命一槍。辦事處幾位中下級軍官聽完遠氏陳述後，群情激憤，將遠氏痛打一頓。遠營長只好逃出南京，回許昌老家。
遠營長享年73歲，歷經動亂，對親睹的邱清泉將軍殉國經過一直深埋心中，不敢透露。直到九十年代才撰成回憶。一九九二年遠氏病逝，其遺作「邱清泉之死紀實」兩年後發表於一九九四年元月出版的《魏都文史資料第四輯》（人民政協許昌市魏都區委員會文史委出版）。遠氏在遺作中稱：「眾所周知，淮海戰役中國民黨的高級將領邱清泉被擊斃喪命。當時我在邱部任警衛營營長，對邱的死我是親眼所見。而今已到暮年，願將此事奉獻於世」。
