宋太祖命令翰林学士讲求旧制，窦仪说：“现在皇弟任开封尹、同平章事，正是宰相的职任。”
宋太祖下令签署权赐给赵普，赵普任宰相后，皇上把他看作左右手，事情无论大小，都向他咨询以后决断。
当时，赵普兼任监修国史，太祖命令薛居正、吕余庆为参知政事以辅助赵普，不能宣布皇帝的诏谕，位次列在宰相之后，不掌印，不参预上奏议事，朝会时不领班，只是奉令制作敕令而已。
原先，宰相副署敕令，都用内制，赵普任宰相后只有敕，不是原来的典章制度。
宋太祖常常便装出行经过功臣之家，赵普每次退朝，不敢随便穿戴。一天，傍晚时下大雪，赵普以为宋太祖不会出来。
过了一段时间，听见叩门声，赵普急忙出门，宋太祖站在风雪中，赵普惶恐迎拜，宋太祖说“已经约好晋王了。”
一会儿后赵光义来到，赵普铺设厚垫子在地上请他们坐在堂中，在炽红的炉火上烧肉吃。
赵普的妻子敬酒，宋太祖称她为嫂，于是与赵普商议攻伐太原，赵普说：
“太原地当西、北二面，太原如果攻下，则我国须单独抵挡这两面，不如等削平诸国以后，则太原这一弹丸黑子之地，能够哪里逃得掉呢？”
宋太祖笑着说：“我的意思正是这样，特地来试试你罢了。”
这番谈话表明在确定所谓“先南后北”的方针上，赵普襄赞有功，关于先南后北决策的核心，主要是统一北汉，夺取燕云十六州是以后的事情，就这样，宋太祖先南后备的统一战略得以制定。
乾德五年春，加封赵普为右仆射、昭文馆大学士，突然母亲去世，赵普守丧，皇帝诏令继续到到职办公，赵普就全太祖派遣使者到各个要道，征召壮丁户籍姓名送到京师，以作为守卫的预备。
在每个州府设置通判，令其负责钱粮事宜，自此后兵精粮足，府库充实。
开宝二年冬赵普生病，宋太祖乘车亲自到中书省看望，次年春，再次到赵普的府邸安抚慰问，赏赐钱财，增加其俸禄。
开宝六年宋太祖又一次造访赵普府第，正好吴越王钱俶派人送信和礼物，单子上说是“海物十瓶”，放在堂屋的左廊下。
正好宋太祖的车驾到了，赵普匆忙出去迎接，来不及遮挡礼物，宋太祖看见，问是什么东西，赵普回答是海物。
宋太祖说：“钱俶送来的海物，一定很好。”
就命人打开，结果发现瓶里装的全是金瓜子，赵普很紧张，叩首道歉说：
“我还没有打开书信，实在不知道里面是什么，如果知道，一定会上奏皇上，拒绝掉这些东西。”
宋太祖笑着说：“尽管收下，不要过虑，他还以为国家大事都是你拟定的呢。”
赵普收下金子，赵普在东京汴梁的府宅都是用这些金子修建的，赵普辅政是相当专制，其他的朝臣非常忌惮他。
当时官府禁止私人贩卖陕西、甘肃的大木料，赵普曾经派遣小吏到市场去买木材，连成巨大的木筏运到京城盖房子。
这个小吏就趁机偷窃木材，打着赵普的旗号在京城卖，权三司使赵玭廉知道了又禀告给宋太祖，宋太祖非常生气，督促下令追查此事，想要下旨驱逐赵普，幸好有王溥上奏求情才解决了这件事情。
依照以往的旧制，宰相、枢密使每次在长春殿等候召问，一起在庐中等候。
赵匡胤听说赵普的儿子赵承宗娶枢密使李崇矩的女儿为妻，于是命令他们分开等候。
赵普又用空闲地私自换取皇家菜地来扩建自己的住宅，又经营客店谋利。
卢多逊任翰林学士，趁着赵匡胤召见时多次攻击赵普的短处。
正好雷有邻敲响登闻鼓，告发堂后官胡赞、李可度受贿枉法以及刘伟伪造代理官职文书而得官，王洞曾经收受李可度的贿赂，赵孚除授西川官却称病不到任，都受到赵普的庇护。
宋太祖大怒，下令御史府审查讯问，他们都受到处罚，任命雷有邻为秘书省正字。
宋太祖对赵普的恩宠渐渐疏淡了，开始下诏参知政事与赵普交替掌印、领班、奏事，来分夺赵普的权力。
不久，把赵普调出京师任河阳三城节度、检校太傅、同平章事。
开宝九年十月，宋太祖驾崩，赵光义继位，是为宋太宗。
太平兴国二年三月赵普自河阳入朝，迁太子少保留京城奉朝请，赵普常被卢多逊诋毁，在朝廷任官几年，郁郁不得志。
遇到柴禹锡、赵镕等人告发秦王赵廷美骄奢恣肆，将会发生阴谋。
宋太宗召问，赵普表示希望在机要部门来观察事变，退朝后又上书宋太宗，自陈参预知道宋太祖、昭宪皇太后临终顾托之事，言辞非常恳切。
太宗感动醒悟，召赵普加以慰谕，不久任赵普为司徒兼侍中，封为梁国公。
原先，秦王赵廷美位次在宰相之上，到这时，因为赵普是勋旧大臣，又任宰相，赵廷美上表请求位次在赵普之下，宋太宗听从了。
到涪陵事败，卢多逊迁往南方，都是赵普的功劳。
太平兴国八年赵普外调任武胜军节度、检校太尉兼侍中，宋太宗作诗给他饯别，赵普捧诗而哭说：
“陛下赐臣诗，应当刻石，与臣朽骨一并葬在地下。”
宋太宗被他感动了，第二天，宋太宗对宰相宋琪说：
“赵普对国家有功，朕先前与他同游，现在牙齿头发都衰落了，不能用枢务政事烦扰他，选择善地来安置他，因此作诗篇来表达我的本意，赵普感激得哭泣流涕，朕也为之泪下。”
宋琪回答说：“昨天赵普到中书省，手拿御诗哭泣，对我说：‘此生余年，无法报答皇上，希望来世能为陛下效犬马之力。’
臣昨天听到赵普的话，今天又听到皇上的宣谕，君臣之间善始善终的情份，可以说是两全啊！”
雍熙三年春，宋太宗为报高梁河之辱而伐辽，亲征幽蓟，战事迁延，久未班师。