建文二年(1400年)，胡广与同乡王敬止在金陵参与殿试。试官议定，本由王敬止夺魁，因王敬止其貌不扬，被建文帝黜为第二名榜眼。当时正值靖难之役，胡广文章中有“亲藩陆梁，人心摇动”语，天子钦点为庚辰科进士第一甲第一名状元，并赐名靖，授翰林修撰。

　　燕王朱棣攻入应天府时，王敬止、胡广、解缙、吴溥四人聚会，胡广、解缙各有慷慨陈词。独王敬止哭泣不言。吴溥之子吴与弼，以为胡广、解缙会自杀身殉建文帝。吴溥认为胡广、解缙只会讲空话，真正忠君爱国的是王敬止。话还没讲完，却听到胡广大声对家人喊叫，“外面很喧闹，小心看好猪啊。”吴溥笑着说：“连一只猪都舍不得，难道舍得生命吗?”不久，王敬止自杀，胡广、解缙迎附朱棣。

　　胡广升为侍讲，改侍读，恢复原名广。之后再升右春坊右庶子，进入内阁。永乐五年，晋升翰林学士，兼左春坊大学士。此后明成祖北征，其与杨荣、金幼孜跟从，每次召入账殿时，有时会谈至深夜。其善于书法，每次勒石刻碑时，均命胡广书写。

　　永乐十二年，他再次跟随朱棣北征，当时皇孙朱瞻基亦跟随，朱棣命他与杨荣、金幼孜在军中给朱瞻基讲经学史学。永乐十四年，进入文渊阁大学士。当时朱棣做法会祈福，胡广献上《圣孝瑞应颂》，朱棣作佛曲命宫中歌舞和之。而礼部郎中周讷请封禅，胡广进言劝阻，于是朱棣下令禁止。胡广并呈上《却封禅颂》，得到朱棣的喜爱。

　　明成祖曾在筵席时，提到解缙与胡广是同乡、同学兼同事，关系很密切，要求胡广把未出世的女儿，嫁给解缙之子解祯亮。但解缙死后解祯亮被流放到辽东。胡广就想解除婚约。女儿大怒，割耳朵发誓道：“薄命的我这婚事，是皇上主婚的，是父亲大人当面答应的。毁约的话我只有死，也没有第二条路可以走了。”等到解家被赦免，其女仍旧归嫁解祯亮。

　　胡广做事缜密，在皇帝面前所听的言行内容，其出来后不予告人。其做事也颇为持大体。其赴母丧归朝后，皇帝问其百姓安居之事。其对答道：“百姓生活安居，但是郡县官吏仍然穷治建文年间奸党之事，其所牵连的亲属分支太广，以至百姓为之疾苦。”朱棣随后采纳其言。

　　永乐十六年(1418年)去世。赠礼部尚书，谥文穆。明朝文臣得谥号，从胡广开始。当时还丧经过南京，太子朱高炽为其致祭。明仁宗即位后，加赠胡广为太子少师。