1995年，帶著一台向日本歸來的朋友買下的超8攝影機，胡杰開始了他的拍攝之旅。
他的第一個拍攝地是圓明園。那時，存在了六年的畫家村正被政府驅散，畫家們重新開始流浪。胡杰抱著一邊學用機器，一邊記錄這個頗為無奈的事件的心態，拍出了《圓明園的畫家生活》。
第二部片子《遠山》，拍的是煤礦工人。胡杰跑了不少煤礦。那些礦工多是附近的農民，不割麥子的時候就去背煤，做幾年就會得矽肺病，然後失去勞動能力。拍攝中胡杰遭到了礦主的記恨，有礦工來報信讓他快逃，已有準備的胡杰背起包和磁帶就逃離了拍攝地點。
1999年，胡杰正式辭去工作，成為獨立紀錄片導演。
彼時的中國，沒有什麼人拍紀錄片，市面上也找不到理論指導的書籍。胡杰曾言，自己在電影方面的積累，大都來源於盜版光碟。
他沒有問家裡要過錢，出去採訪時，火車站休息室的椅子下、垃圾堆旁邊，胡杰都睡過。回到家時，他的鬍子頭髮長了好長，全身都是蚊子咬過的瘡疤。胡母說：「我們都快認不出他。」
意外了解到林昭之後，胡杰發現與之相關的歷史事件，在紀錄片方面是空白的。胡杰一邊拍《尋找林昭的靈魂》時，一邊計劃，拍完反右，就要拍大饑荒，再就要拍文革。只有這樣，才能從已經將老的親歷者那裡搶救回對於歷史的記憶。
拍攝過程是困難的。對於影片中的受訪者，胡杰一般要花上一兩年打電話、拉關係，向對方表示自己的真誠。「在胡杰攝影機後面的那雙眼睛裡，沒有權力意志，只有心心相通的悲憫。胡杰有個習慣，說服受訪人，使其信任採訪，如果對方不願意表達，就不打開鏡頭。這種高度尊重他人的意識，是大多影視行業者不具備的。」楊銀波在文章中曾言。
而必要的資料支撐，都需要確認其存在後不懈地尋找。有時收穫完全是意外之喜。
林昭曾經的戀人，在反覆而謹慎地考察了胡杰的身份之後，才交給他林昭的《十四萬言書》手稿。而為了尋找林昭的骨灰，胡杰走訪了數年。
之後，他又拍了關於文革中被學生打死的校長卞仲耘的《我雖死去》和本文開頭提到的《星火》。
除了填補官方敘事中空缺的歷史，胡杰還一次次將鏡頭對準普通人。
在《媒婆》中，胡杰在經濟改革的背景下講述一位說媒40年、頗有聲望的媒婆的故事；《在海邊》呈現了闖關東的後人，返回山東後成為「外來人員」，並從事高風險勞動的生活樣貌；《平原上的山歌》記錄被拐彝族少女成家十年後歸鄉探母的經歷。
沒有投資人，也不接受捐贈，尤其是海外的，除了一些影片獲獎的獎金，胡杰的一切拍攝成本都自負。
談到兒子拍攝的那些紀錄片，胡母驕傲地說：「這是默默無聞的貢獻。」
2005年前後，胡杰成為了政府關注名單上的一員。胡杰時常接到警察的電話，警察也會提前通知他的採訪對象，讓他們不要接受採訪。2013年「雲之南」電影節同樣因為有胡杰的影片參展而被勒令取消。
「個人的危險是沒有什麼可怕的。只是作為一個研究歷史、拍紀錄片的人，你不希望你的東西拍不成。」
「如果不了解那些歷史和人，他們就會消逝。」
胡杰拍攝的紀錄片，都是無法公開放映的。他也只在拍攝完成後，燒錄光碟，寄給一些知識分子朋友看，得到他們的建議後，修改剪輯。胡妻表示，家中的快遞單據都積攢了一大摞。
雖然影片無法公開，但許多高校教授和學生都會自己找來他的影片觀看。胡杰認為，這些觀眾就可以讓他想要保護的歷史記憶留存下來。
現在，胡杰在位於南京的湖畔工作室進行油畫和版畫創作。當然，紀錄片的拍攝也並沒有停下來。
在胡杰看來，他拍攝的目的不是單純揭示黑暗和證明苦難的存在，而是喚起觀眾的關心和對民族命運的思考。
「悲劇是我們理解社會的一個提示。」他說。
