侯霸字君房，河南密人也。族父渊，以宦者有才辩，任职元帝时，佐右显等领中书，号曰大常侍。成帝时，任霸为太子舍人。霸矜严有威容，家累千金，不事产业。笃志好学，师事九江太守房元，治《谷梁春秋》，为元都讲。王莽初，王威司命陈崇举霸德行，迁随宰。县界旷远，滨带江湖，而亡命者多为寇盗。霸到，即案诛豪猾，分捕山贼，县中清静。再迁为执法刺奸，纠案势位者，无所疑惮。后为淮平大尹，政理有能名。及王莽之败，霸保固自守，卒全一郡。
更始元年，遣使征霸，百姓老弱相携号哭，遮使者车，或当道而卧。皆曰：“愿乞侯君复留期年。”民至乃戒乳妇勿得举子，侯君当去，必不能合。使者虑霸就征，临淮必乱，不敢授玺书，具以状闻。会更始败，道路不通。
建武四年，光武征霸与车驾会寿春，拜尚书令。时无故典，朝廷又少旧臣，霸明习故事，收录遗文，条奏前世善政法度有益于时者，皆施行之。每春下宽大之诏，奉四时之令，皆霸所建也。明年，代伏湛为大司徒，封关内侯。在位明察守正，奉公不回。
十三年，霸薨，帝深伤惜之，亲自临吊。下诏曰：“惟霸积善清洁。视事九年。汉家旧制，丞相拜曰，封为列侯。朕以军师暴露，功臣未封，缘忠臣之义，不欲相逾，未及爵命，奄然而终。呜呼哀哉！”于是追封谥霸则乡哀侯，食邑二千六百户。子昱嗣。临淮吏人共为立祠，四时祭焉。以沛郡太守韩歆代霸为大司徒。