馬英九學成返回台灣之後，被聘用為總統蔣經國的英文秘書，開始從政生涯。由於馬英九學歷高、形象好，被國民黨內視為新一代精英。1993年，馬英九被當時的行政院院長連戰任命為法務部部長。由於當時台灣黑道勢力橫行，黑金政治泛濫，馬英九以嚴辦地方上的黑金勢力，受到民眾的讚揚，但是亦得罪不少黨內重量級人物。總統李登輝曾經表示，馬部長打擊黑金太嚴，差點把國民黨毀掉。96年，馬英九在黨內壓力之下，改任政務委員失去實際權力。97年4月，台北縣有一位高中女生白曉燕被歹徒擄走，歹徒向白曉燕的母親，著名女藝人白冰冰勒索500萬美元，並且寄上白曉燕的裸照及一截手指以示威脅，白冰冰報警，警方根據線索圍捕歹徒，與歹徒發生槍戰，被歹徒逃脫，不久，白曉燕的屍體被發現。之後，多名歹徒到處亡命殺人，甚至逃入南非駐台灣大使武官家中挾持人質，將事情鬧大，行政院長連戰因此被迫改組內閣，馬英九宣布退出政壇，到大學教書。98年，台北市長選舉，馬英九以服從父親勸導為理由，決定參選。