在我國古代封建社會當中，權力體系是相對比較穩定的，那便是皇帝作為最高統治者，下轄數個主要的官員，由上至下人員逐漸增多，從而實現中央控制地方。在隋唐三省六部製出現前，這套權力體系當中居於次要地位的大多數時候都是著名的\“三公九卿\”，一般而言，三公的地位是除皇帝外最尊貴的，而他們的正式官名則分別是丞相、太尉和御史大夫。

這三人當中，丞相主要負責掌管行政權，太尉主要處理軍政事務，御史大夫則負責對官員進行監管，從而形成一定程度上的制衡。不過，如今人們但凡提到三公，就會下意識認為就是上述的三個官職，但實際上三公的具體指代物件在歷史上並不是固定的，也就是說，認為三公就是丞相、太尉、御史大夫，是並不完全準確的。

據《禮記》記載：\“夏后氏官百，天子有三公、九卿、二十七大夫、八十一元士。\”由此可見，我國早在夏朝時就出現了\“三公\”這一稱呼，只不過當時的三公時和九卿、二十七大夫、八十一元士等數量為三的倍數的官員組成一個金字塔式的權力結構，其具體官名、職責並不為人所詳細知曉。

商、周時期，三公依然存在，而根據《通典》的記載，周朝時的三公分別是太師、太傅、太保。其中，太師為三公之首，職能則是輔佐國君處理政務，像幫助周朝消滅殷商的姜子牙，就被文王姬昌尊為太師，主導與商的作戰。

太傅位在太師之後，他不但要輔政，還要負責教導帝王、掌管禮法，像著名的周公旦就曾經被尊為太傅。太師、太傅之後才是太保，他的責任也是監護國君、輔導國政。歷史上曾幫助康王締造\“成康之治\”的召公就是作為太保輔政，奠定了周朝的長治久安。

從周朝時三公的職責設定我們可以看出，當時的三公僅僅是三種地位最尊官位的合稱。具體而言，太師、太傅、太保的職能大體相同，只是尊貴程度上有些許的高低之分，它們三者並沒有體現出分工合作和權力之間的制衡。周朝滅亡後，秦始皇廢除三公制，改為由左右丞相輔政，太尉、御史大夫則作為丞相的副手從旁協助，但隨著秦朝的迅速滅亡，三公又在漢朝得以重生。

漢朝建國之初沿用的是秦國的左右丞相制度，但有時也會暫時設定太尉以方便處理軍事方面的重要事務。漢武帝獨尊儒術後，三公作為儒家推崇的\“周禮\”的一部分，也得以回到朝堂，並逐漸成為了丞相、太尉、御史大夫這三大官職的合稱。根據當時的標準，丞相、太尉分管政治、軍事，都品秩萬石，而相比之下御史大夫品秩不過兩千石，地位似乎遠遠不及前二者，但他一來起到監督百官的作用，二來逐漸被賦予了副丞相的職權，所以還是被眾臣忌憚。

武帝在位期間，曾將太尉之名改為大司馬，名將衛青、名臣霍光都曾經擔任此職，並掌控兵權。此後，三公所具體指代的物件又幾經變遷，像東漢時，它先是大司馬、大司徒、大司空的合稱，後來經過光武帝廢大司馬設太尉、漢末曹操罷三公恢復丞相等變化，三公體系變得愈發混亂，而原本似乎比較合理的丞相、太尉、御史大夫結構也難以重構。

如同上文所說，在隋唐三省六部製出現並完善後，三公制這樣由三四人分管三四個部門的體系遭到了代替，不過，三公制失去具體權能，還是能夠憑藉其代表意義繼續存在的。舉例來說，隋唐以後的很長一段時間裡，三公再度成為了太師、太傅、太保的合稱，但此時的這些官職基本已是用來賞賜和追贈的虛銜，不再具備實際權力。

總的來看，三公最初是夏、商等權力執行結構比較簡單的原始王朝用來表示尊貴身份的官職合稱。後來周朝重視禮制、崇敬賢能，三公就成為了三位輔政大臣太師、太傅、太保的合稱，此時，能夠擔任這些職務者不少都展現出了與地位相匹配的才能，幫助了周朝向前發展。

進入秦漢，三公隨著官制的改變也變了模樣。出於國家機器複雜化的需要，三公所代表的官職之間出現了職能的分化和互相制約，這有利於中央集權的發展，也體現了歷史發展帶來的變化。

此後，由於權力體系不斷出現變數，三公也隨之發生更改，直至更加先進和便於集權的三省六部製出現，原本擁有實權的三公才逐漸變得更傾向於一種榮譽。擁有如此複雜多樣的變化，將三公簡單歸納為丞相、太尉、御史大夫，顯然是一種錯誤的做法。