史家的后人。他打听到史弘肇的部下多四散逃离，而李崇矩和史家还有来往，就找到李崇矩，让他帮忙找寻史弘肇的亲属，好加以抚恤。
谁知李崇矩说，其实自己一直在帮助史家打理家务，并向周太祖推荐史弘肇的弟弟。周太祖很欣赏李崇矩的有情有义，赏赐史弘肇的弟弟一个官职之后，让李崇矩到柴荣帐下效力。而李崇矩将史家的钱财和账目一-交代清楚才离开史家。
当时的人们都说李崇矩重然诺、守信用，堪比古时季布。
赵匡胤当时也在柴荣帐下服务，看到李崇矩对去世的领导都如此尽责，实在难得，便将李崇矩一直记在心里。
多年后，赵匡胤做了皇帝，李崇矩还只是一个作坊使，之后判四方馆事，在外交部门当个闲职。赵匡胤有心栽培李崇矩，便在讨伐造反的昭义军节度使时，任命李崇矩率领禁军中的数千精锐进攻。
李崇矩不负所托，斩首五百人，大胜而归。数日后，李崇矩和主力会师，成功击溃昭义军主力。赵匡胤知道李崇矩为人稳重、不贪图钱财，攻占泽州、潞州时特意让李崇矩率先进入州城，视察府库、搜集户籍图册。
李崇矩果然分文不取，全部封存后上交朝廷。赵匡胤更加满意了。很自然地，大军回京之后，赵匡胤命李崇矩出任三司使，管理全国财政。
乾德二年，范质、王溥等三位宰相同时辞职，赵匡胤命枢密使赵普出任宰相，而三司使李崇矩接任枢密使，成为赵匡胤最信任的嫡系之一。
李崇矩老成持重，思考之后，说道：“短期内，可抽调西北驻军两万人，从京城调动三万禁卫军过去，加上曹彬将军的兵马，应该可以灭蜀。粮草方面，可从先从淮北之地调运过来做军需补给。”
赵匡胤点头，心中有数之后，决定按赵普的计策去实施了。