寇凖先世曾居太原太谷昌平乡，后移居冯诩，最后迁至华州下邦。寇凖出身于名门望族，其远祖苏岔生曾在西周武王时任司寇，因屡建大功，赐以官职为姓。父亲寇湘于后晋开运年间考中进士甲科，后应诏任魏王记室参军，因屡建功勋，被封为国公，追赠官职至太师尚书令。寇凖天资聪明，又勤奋好学，十四岁时已经写出了不少优秀的诗篇。十五岁时就能精习《春秋》。
太平兴国五年（980年），十九岁的寇凖考中进士。宋太宗选取进士，往往到殿前的平台亲自看望提问，年纪轻的人往往不予录用。有人教寇凖增报年龄，寇凖说：“我刚刚准备要踏上仕途，怎么可以欺骗陛下呢？”后来考取了，被授官大理评事，被派往归州巴东任知县，任满改任成安知县。以后他又先后升任盐铁判官、尚书虞部郎中、枢密直学士等官。端拱二年（989年），寇凖曾奏事殿中，大胆进谏。由于忠言逆耳，宋太宗听不进去，生气地离开了龙座，转要回内宫。寇凖却扯住宋太宗的衣角，劝他重新落座，听他把话讲完。事后，宋太宗十分赞赏寇凖，高兴地说：“我得到寇凖，像唐太宗得到魏徵一样。”寇凖在宋太宗朝群臣中，以刚直足智著名。
淳化初年，朝廷处理了两桩受贿案。情节严重的王淮，赃钱以千万计，仅被撤职仗责，不久又恢复了原职；而情节较轻的祖吉，却被处以死刑。寇凖知道这是王淮的哥哥、参知政事王沔搞的鬼，心中忿忿不平。淳化二年（991年）春，发生了一次大旱灾，宋太宗召集近臣询问时政得失。群臣多认为是天数所致，寇凖则说：“《洪范》里说，天和人的关系，相互应和就像影子和回声，大旱是因为刑罚有不公平的地方。”宋太宗很生气，起身回到宫中。过了一会儿，召寇凖询问刑罚不公平的情况，寇凖说：“希望把二府的官员召来，我就说。”皇上下令召二府的官员来，寇凖就说：“不久前祖吉和王淮都触犯法律接受贿赂，祖吉受贿较少却被杀头，王淮因为是参政王沔的弟弟，收受钱财千万，只受杖刑，仍官复原职，这不是不公平是什么？”宋太宗把这件事问王沔，王沔叩头谢罪，于是宋太宗严厉批评了王沔，并且知道寇凖可用。当即任命寇凖为左谏议大夫、枢密副使，改任同知院事，开始直接参预北宋朝廷的军国大事。寇凖在枢密院与知院张逊发生了严重的意见分歧，一天，寇凖与与温仲舒一起外出，在路上碰到一个疯子迎着他的马喊万岁。判左金吾王宾与张逊向来交好，张逊就嗾使他把这件事禀告宋太宗。寇凖引温仲舒作证，张逊让王宾单独上奏，言辞很严厉，并且互相指责对方的短处。宋太宗很生气，贬谪了张逊，寇凖也被免官任青州知府。但这时宋太宗已离不开寇凖了，寇凖去青州后，宋太宗闷闷不乐，经常询问有关寇凖在青州的情况。第二年，寇凖就被召回京师，拜为参知政事。至道元年（995年）又加给事中。
当时宋太宗在位日久，一直未立皇储。这件事也一直是令宋太宗头疼的事情。因为宋太祖驾崩后，其子德昭未能继位，宋太宗以皇弟身分践祚，并且宋太祖之死还有“烛影斧声”之谜，也就是说宋太宗有杀兄夺位之嫌。因此宋太宗传位，就面临两个选择：立自己的儿子，还是立太祖的儿子。当时一般大臣都讳言立储一事。大臣冯拯曾上疏请立皇储，被太宗贬到岭南。从此朝野上下很少有人再敢议论此事。寇凖刚从青州还朝，入见宋太宗。宋太宗当时正患足疾，让寇凖看过伤情后，深情地问道：“你怎么现在才回京？”宋太宗觉得有点过意不去。接着宋太宗便向寇凖问起应立谁为皇太子。寇凖已猜到宋太宗这次召见他的目的，他早已成竹在胸，但他并没有直接回答宋太宗的问题。寇凖说：“为天下选择国君，不能与后妃、中官（宦官）商量，也不能与近臣谋划；应选择众望所归者立为太子。”宋太宗低头想了好久，屏退左右的人，轻声问道：“襄王怎么样？”寇凖心中暗喜，便顺水推舟地说：“知子莫若父。陛下既然认为襄王可以，就请决定吧。”第二天，宋太宗便宣布襄王赵恒为开封尹，改封寿王，后立为皇太子。宋太宗与太子拜谒祖庙回来，京城的人们拥挤在道路两旁喜气洋洋，争着看皇太子。这时人群中有人喊了声“少年天子”。宋太宗听后很不高兴，问寇凖：“人心归向太子将把我放在什么位置?”寇凖连连拜贺说：“陛下选择的皇储深得人心，这是国家的福气。”宋太宗恍然大悟，赏寇凖对饮，大醉而罢。此后宋太宗更加依重寇凖。有人给宋太宗献了个宝物：一通天犀，宋太宗令人加工成两条犀带，一条自用，另一条赐给了寇凖。
至道三年（997年），宋太宗驾崩，太子赵恒继位，即宋真宗，寇凖任尚书工部侍郎，宋真宗很早就想让寇凖做宰相，担心他性格刚直，难于独自担任。辽国乘宋主新立，更加频繁地骚扰边境。咸平二年（999年），辽军大败宋军于高阳关，俘宋并代都部署康保裔，大掠而还。咸平六年（1003年），辽军再侵高阳关，宋军副都部署王继忠又被俘降辽。这两次战争极大地震惊了北宋朝廷。景德元年，边境告急文书频传，说辽军又要大规模入侵了。这年六月，参知政事毕士安向宋真宗推荐寇凖为相。毕士安说：“寇凖天资忠义，能断大事；志身殉国，秉道嫉邪。眼下北强入侵，只有寇凖可以御敌保国。”八月，寇凖与毕士安同日拜相。景德元年（1004年），寇凖以集贤殿大学士的官职排在毕士安（参知政事）之下。九月，辽圣宗耶律隆绪和他的母亲萧太后，率20万大军，从幽州出发，浩浩荡荡，向南推进。辽军由威虏军攻定州，被宋兵阻击，便把兵锋转向东南。当辽军南下。“急书一夕五至”的时候，北宋统治集团的上层人物大多惊惶恐惧。参知政事王钦若是江南人，主张迁都金陵。枢密副使陈尧叟是四川人，提议迁都成都。他们主张用躲避辽国的办法，应付辽国的入侵。宋真宗本来就无心抗敌，更表现得惶恐不安。只有寇凖与毕士安坚决主张抵抗，当宋真宗问他们的意见时，王钦若、陈尧叟二人正好在场。寇凖心里明白，迁都之议就是他们提出的，但他却假装不知，对宋真宗说：“谁是替陛下筹划这个计策的人？他的罪可以杀头。现在陛下是神明威武的皇帝，武将和文臣都很团结，如果您亲自领兵出征，敌人自然而然就会逃跑。不这样，那就出奇兵打乱敌人的计划，坚守阵地消磨敌人的士气，使敌人困乏疲惫。从疲劳和安逸的敌我形势来看，我们有必胜的把握。为什么要抛弃太庙太社，到楚、蜀这样边远的地方去呢？问题在于人心崩溃了，敌人乘势而入，天下还能够保住吗？”寇凖的意见终于阻止了妥协派逃跑避敌的主张。为了消除王钦若对宋真宗的影响，寇凖把他从宋真宗身边调到天雄军前线去防辽兵。
寇凖派探子到前线侦察情况，根据对敌情的分析，制定了一套抗敌方略。他指出：“目前敌人已至深州、祁州以东，我方大军在定州及威虏等地，东路别无驻军。应一面调天雄军步骑万人，驻守贝州，派孙全照指挥，遇敌掩杀；另一方面招募民兵，深入敌后，袭击敌人据点，兼以报告敌情。这样就可以振奋军威，安定人心，打乱敌人的军事部署，并可与刑州和沼州的军事据点构成犄角之势，以便攻守。万一敌骑南下攻人贝州，即应增援定州，向东北进攻，牵制敌人后方，使敌兵不敢纵深作战。”同时寇凖特别强调指出：为了鼓舞士气，争取更大的胜利，宋真宗必须渡过黄河，亲临前线。寇凖一方面同妥协派斗争，一方面积极备战。他派人到河北把农民中的优秀青年组织起来，加以训练，发展民兵队伍，并规定：河北民兵杀敌，所在官军应给以声援；民兵中有杀敌立功者，同样给予奖赏。寇凖还派人携带钱物慰劳河北驻军，并出银30万两交给河北转运使，用来收购军粮，充实军资。十月，辽兵攻下祁州，向东南推进，经贝州，直扑澶州城下。这样一来，不仅河北大片领土陷入敌手，而且仅隔一河的都城汴京也暴露在辽国骑兵的威胁之下。事实摆在面前，只有坚决抗敌才是惟一的出路。怯弱的宋真宗在寇凖的督促下终于决定亲征。但统治集团内部仍然有不少人对抗敌没有信心，甚至当时的宰相毕士安也以自己抱病在身，以及太白星白天出现对大臣不祥为借口，不愿随驾北征，并对寇凖促使宋真宗亲征说三道四。
在寇凖的督促下，宋真宗让雍王留守京师，自己起驾北上。当车驾缓慢行至韦城时，辽军日益迫近的消息雪片似地从前方飞来。臣僚中又有人劝真宗到金陵躲避敌锋，于是真宗又动摇起来。寇凖十分懂得把握军心民心和“取威决胜”的军事法则。他提醒真宗在大敌压境，四方危机的情况下，只可进尺、不可退寸。三寇凖明确指出，进则士气备增，退则万众瓦解。殿前都指挥使高琼也支持寇凖的意见。宋真宗车驾终于北行到达澶州。北宋时，黄河还是从澶州流过的，将澶州城一分为二。