林木聲是汕頭人，1956年4月生。林木聲早年做過教師，1978年恢復高考後，在華南師範學院中文系中文專業學習，中央黨校經濟管理專業在職研究生班畢業。曾在團省委工作了13年，並在1991年至1995年出任團省委書記，系地方團派出身。

1995年，林木聲到粵東地區擔任地方領導工作，先後出任汕頭市委副書記、揭陽市委書記和汕頭市委書記。

2006年，50歲的林木聲升任廣東省副省長。去年烏坎事件中，廣東省成立的專責工作組，組長是省委副書記朱明國，副組長就是林木聲。

今年2月林木聲任廣東省委常委。3月2日，林木聲任省委秘書長、辦公廳主任。

據《南方日報》報導，20多年前，林木聲曾有過騎自行車橫跨美國大陸的經歷，美國自行車慢行系統給林木聲留下了深刻印象。20多年後，廣東開啟綠道工程，分管城建工作的林木聲趕赴廣東多地推動綠道建設，僅僅用一年多的時間就拉通了珠三角2，000多公里的綠道網。今年4月廣東因此獲得了2011年全國人居範例獎。