孔子任職中都宰之後，隔年改任司空，已經是「卿」等級，不久又改任大司寇，負責司法、治安。並且一度攝行正卿職務，成為魯國執政。

一直以來，魯國朝廷的卿級大臣，都由公族成員出任，三桓家長世代壟斷最高卿級職位，孔子以外姓士族成為代理正卿，十分罕見。三桓之所以任用孔子，主要原因，是三桓家長都年紀較輕，經歷了陽虎專權及叛亂，國內局勢險峻，地方勢力難以約束；定公年紀較大，難以操控；而南方蠻夷吳國興起，吳王夫差領兵北上威逼中原，魯國首當其衝，深受威脅。三桓對掌握政權力不從心，希望任用一位老成持重的大臣擔當重任，孔子正是適合人選。

孔子代理執政，短短三年期間，做過幾件記載於史冊的事。第一件是孔子執政第七天，便誅殺了大夫少正卯。「少正」官職，「卯」是人名。據說少正卯是當時魯國的聞達之士，即言論界紅人，經常放出驚世駭俗的「邪說」，吸引年輕人追捧，被稱為「聞人」（即聞達、出名的意思），他的後代就以聞人為姓氏，後來又簡化為聞。

《史記·孔子世家》記載：「定公十四年，孔子年五十六，由大司寇行攝相事，（略）於是誅魯大夫亂政者少正卯。」其後流傳的《孔子家語·始誅》篇增加了細節，孔子指出少正卯有「五惡」（天下有五種比竊盜殺人還嚴重的罪惡），用現代語文解說：
第一是內心險惡卻深藏不露；
第二是行為乖張而意志堅定；
第三是言論偏頗卻辯才無礙；
第四是認知邪惡而學識廣博
第五是對作惡的人廣施恩澤。

孔子認為這五大罪惡只要具備其中任何一樣，都應該誅殺，更何況少正卯是五種都有，少正卯以邪惡的言論蠱惑大眾，聚集各方罪惡的事例為他私人所用，是標準的奸雄，如果不早日除去，將會成為魯國的大患。但《論語》及《左傳》沒有記載這事，因此是否事實，後世學者有爭論。

孔子做的第二件大事是以魯國執政身份陪同魯定公參加與齊景公及齊相晏嬰的會盟，稱為「夾谷之會」。會盟的背景是，南方的吳國興起，吳王夫差不斷向中原擴張勢力，齊、魯正處於吳國北進首當其衝的地域。齊景公及晏嬰希望與魯國結成聯盟，號召中原諸侯共同對付吳國的威脅，恢復祖先齊桓公的霸業，魯國亦希望齊國能交還魯昭公時被齊國侵佔的城邑。於是兩國國君擇日在交界處夾谷會盟。

齊國事先在夾谷修建了會盟的土台，在台上準備好了席位，設有三級登台的台階。兩國國君舉行過相見之禮後，便準備登台會盟。但齊國指使居住在夾谷附近的「萊夷」（原本是齊國東方半島的原住民，百多年前被齊國擊敗，部分部落被遷徙到齊魯交界山區）前來鬧場，使魯定公害怕，阻止定公登台，但孔子下令魯國侍衛戒備，保護魯定公，萊夷知難而退。儀式開始，兩國國君互相饋贈禮物之後，齊國的官員快步向前，引導一些齊國戲謔藝人和滑稽的侏孺隨著樂隊樂隊喧鬧著蜂擁而上。孔子見狀，快步上前，阻止這些胡鬧表演。孔子嚴肅告誡齊景公，這種行為是戲弄諸侯，論罪當斬。齊景公自知失禮，有損道義，把先前侵佔魯國的鄆邑、讙、龜陰等土地歸還給魯國，以此向魯國道歉。夾谷之會記述於《左傳·定公十年》。

孔子做的第三件事，是隳三都。所謂，「三都」是三桓家族封地的首府，即孟孫氏的郕邑，叔孫氏的郈邑，和季孫氏的費邑。三桓家族操控魯國政權百多年，族長都在魯國首都曲阜執政，對自家的封邑都刻意經營，積聚財富，發展為地方重鎮，派親信家臣代為管治，稱為「宰」。並建築高大城牆環繞，以防外敵侵擾，當然，也防範魯國國君出兵收回封邑。

孔子兼攝相事，認為三桓私自擴建封邑，超越首都曲阜，是違反禮制，有據私邑反叛的可能，於是向魯定公建議拆毀三桓封邑郈、費、郕的城牆，以尊重禮制。起初，季孫斯、叔孫州仇、仲孫何忌都表示同意，孔子派弟子子路監督執行，準備先隳毀叔孫氏郈邑。此舉卻引起季孫氏的費邑宰公山不狃（又作弗擾、不擾）反抗，率費邑軍攻入曲阜，魯定公和季孫斯（季桓子）、仲孫何忌（孟懿子）和叔孫州仇（叔孫武叔）躲在季氏之宮，武子之台。孔子派申句須、樂頎率軍擊敗弗擾，弗擾逃到齊國，仍威脅魯國邊境。

郕邑宰公處父亦反對墮毀郕邑，於是三桓開始反對墮三都。墮三都行動就此半途而廢，三桓家族不再信任孔子。

魯定公十三年（公元前497年）春，孔子年五十五，齊國贈送數十名歌妓給魯定公及季桓子，其後季氏在典禮中用了周天子等級的「八佾之舞」，祭祀後又不送祭肉孔子，孔子認為「非禮也」「是可忍，孰不可忍」，於是辭去官職，開始周遊列國。

孔子擔任魯國大司寇是在公元前500年，時年五十二歲，至公元前497年離職，周遊列國，時年五十五歲。