2年），富弼升为知制诰，纠察在京刑狱，一个分管京都监狱的中级官员。是年春，契丹国大兵压境，扬言要以武力扫平中原，要求大宋割地赔款才息兵。慌了手脚的宋王室，赶忙商议派大臣出使契丹求和，但朝中大臣皆因此行凶险，不敢前往。有人推荐富弼，富弼临危受命，被任命为大使，拜任枢密直学士，出使契丹。见到辽国皇帝，富弼问：“为何要出兵攻宋？”
辽国皇帝回答：“是你们违约在先，堵塞了关隘，所以我们要进攻。如果你们割地求和，我们可以撤兵。”
富弼正色道：“我知道你自己并不想出兵，而是你的臣子嚷嚷着要打仗。你可知道他们都是为了自己牟利？”
辽国皇帝惊讶地问：“此话怎讲？”
富弼说：“我大宋封疆万里，精兵百万，上下一心，若你们要用兵，能保证必胜吗？即使你们侥幸获胜，也要损伤过半，这些损失你那些好战的大臣能够弥补吗？如果我们还像以往那样互通友好，大宋每年赠给你的钱帛，还不都是你辽国皇帝一人任意支配吗？”
辽国皇帝想了想，点头称是。
富弼又说：“至于中国堵塞关隘，本是为了防范叛军，并不是为了进攻他人。若是为了进攻，就不堵塞关隘了，而是要打通关隘，前去进攻了！”
辽国皇帝觉得富弼说的都是实话，第二天就邀富弼一同打猎，但他提出一个条件：“如果能割地给契丹，则两国可长久修好。”
富弼问：“为什么？”
辽国皇帝说：“我们都以每年领受你们的钱帛为耻。”
富弼马上反问道：“你们以得地为荣，我们必以失地为耻！你说是不是这个道理？想让我们割地求和，万万不能！”
面对这个既善辩又强硬的来使，辽国皇帝感到无奈，最终不再要求割地。就这样，富弼不避生死，不辱使命，只说了一番话，就打消了契丹国进犯的图谋，使两国化干戈为玉帛，此后的几十年间，两国一直和平相处。
富弼后来又出使契丹，也大获成功，展示了其超人的胆识和外交能力。他第一次去契丹时，家人来报，说他的女儿死了，他不顾而行；第二次去契丹前，他的妻子生了个男孩，他来不及看一眼，就启程了。到了契丹国，每得家书，他连拆都不拆。
随从不解地问：“这是家书，为啥不拆？”
他回答：“拆了，徒乱人意！”
富弼为人不慕虚名，他一心为国，受到仁宗嘉奖，欲提拔他为枢密副使。他力辞不受，上疏仁宗：“（大宋）与契丹再结盟好，大臣们都以为太平无事了，万一契丹毁约，又来进犯，我岂不是死有余辜！陛下啊，您只要卧薪尝胆，不忘边患，多虑国政，就不用考虑我的职位高低了。”
过了一段时间，仁宗欲再次提拔他，并派宰相去劝说：“此次任命是别有用意，非因你出使契丹有功，请受之。”他这才接受了枢密副使的职位。
庆历四年（公元1044年）六月，契丹和西夏发生战争。契丹出兵10万西征，并遣使至宋，要求大宋与西夏断交。范仲淹怀疑契丹国是声东击西，可能与西夏联合攻宋，建议朝廷马上增兵，驰援西部边陲。富弼冷静观察后，认为契丹不会与西夏联合、杀个回马枪再来攻大宋。当时朝廷上下非常担心，议论纷纷：如果大宋受到攻击，你富弼是否以头颅谢罪呢？
富弼很平静地说：“放心，不会发生这样的事情。”
结果如富弼所料，契丹并没进犯大宋边境。
至和二年（公元1055年），富弼被授同中书门下平章事、集贤殿大学士，与文彦博同日拜相。两年后的一天，仁宗上朝时突然昏厥，被扶入宫中诊治。朝中大臣十分惊慌，议论纷纷。庙堂之上的富弼却很冷静，他和文彦博一起留宿宫中以防不测，并随时询问仁宗病情，使宫中秩序很快恢复。后来富弼还与朝中大臣一道，劝仁宗早立皇嗣以安定人心。
富弼克己奉公，为官清正，颇有廉声。富弼出任枢密使时，宋英宗赵曙刚登上天子的宝座。赵曙上台后，将其父仁宗皇帝的遗留器物，都拿来赏赐给朝廷重臣。众臣叩头感谢领赏之后，一起告退。赵曙却单独请富弼留下，又在惯例之外，特别赏赐他几件器物。富弼先叩头谢恩，然后就坚决推辞不接受这份额外的赏赐。赵曙有些不高兴，轻描淡写地说：“这些东西又不值什么钱，你没有必要推辞呀！”富弼恳切地说，“东西虽然很微薄，但关键是额外所赐。大臣接受额外的赏赐而不谢绝，万一将来皇上做出什么例外的事来，凭什么劝谏呢？”最终富弼还是推辞掉了这份赏赐。
至神宗立，为了富国强兵，神宗于熙宁元年（公元1068年）四月，召王安石进京，变法改制。神宗想问问富弼对变法的看法，因富弼是三朝元老，许其肩舆至殿门，不必叩拜，坐下说话。结果富弼一见神宗就说：“我反对变法。”神宗又问边防事宜，富弼说：“陛下执政不久，当布德行惠，希望二十年口不言兵。”神宗听后十分失望，革其相位，以仆射出判汝州。
富弼见神宗重用王