中國古代太醫機構的發展經歷了一個較為曲折、複雜的過程。周代，宮廷的醫師制度是太醫制度的萌芽。而太醫機構的最早出現在西晉，中央設立醫署。至此以後，歷代皆有太醫機構的設定。
一、西周至東漢時期太醫制度的發展
我國古代太醫制度最早出現於西周時期。據《周禮·天官冢宰》所記載，周代宮廷設有醫師，掌醫藥政令，並統食醫、疾醫、蕩醫、獸醫而隸於天官冢宰。並規定“凡邦之有疾病者，範病者造焉，則使醫分而治之。歲終，則稽其醫事，以制其食。”
周代宮廷醫療及考核制度細緻明確，加上醫學分科初見規模，職官設定合理，醫療體系完備，開創了我國古代太醫制度的先河。併為後世太醫制度的健全、太醫機構的設立奠定了重要的基礎。
秦、兩漢時中央設太醫令丞，主理宮廷醫藥事務。太醫令一職最早設置於戰國時的秦國。秦統一六國之後，在少府下設屬官太醫令丞。少府乃皇帝私人庫藏，太醫令丞無疑是專為皇帝提供醫療保健服務的官員。
秦亡漢興，漢承秦制。西漢在少府和太常下俱設太醫令丞屬官，形成了兩套分屬不同系統的太醫制度。而東漢時仍如秦制，只存少府屬官太醫令丞，統領諸醫。
太醫制度經過西周至漢末一千多年的時間發展，官員的設定和管理逐步完善。東漢時太醫官員已有了明確的俸祿制度，如規定“太醫令一人，六百石。”同時宮廷醫官隊伍也漸漸擴大，東漢時就設有“員醫二百九十三人，員吏十九人。”另外還湧現了各類醫官，諸如尚方、太醫監、女醫等職，宦官亦開始進入醫療隊伍，輔助監督宮廷醫療。由於藥物學的發展，還設藥方、藥丞，藥丞主藥，方丞主藥方。
太醫制度發展到這個時候已顯得非常成熟，而龐大的醫療隊伍和複雜的宮廷醫療迫切需要一個全新的機構來進行管理，太醫機構在隨後的王朝就應運而生。
二、西晉至元朝太醫機構的沿革
根據前文所述，周至東漢，國家雖有太醫制度，但是中央未設立專門管理太醫、負責醫療的機構。至西晉初期，才誕生了我國最早的太醫機構——醫署。
西晉初醫署隸宗正，東晉時改屬門下省，南北朝時沿革易名稱為太醫署。醫署作為全國最高的醫藥衛生管理機關，使得封建國家的醫政管理開始走向機構化、固定化和秩序化。同時，在醫署的管理下，以封建王朝最高統治者一皇帝為主的宮廷醫療活動逐步走向制度化和規範化。
隋唐時期中央亦設太醫署。隋設太醫署令丞統主藥、醫師、助教、博士之屬，皆隸於太常，唐太常寺亦有太醫署，以令丞統四博士，教諸醫而考課之。另外設尚藥局和尚食局，專門為皇帝醫療、飲食服務的。隋時隸屬門下省，唐時屬殿中省管轄。還設藥藏局專門為太子提供醫藥保健服務。各太醫機構之間分工明確，專為皇帝和宮廷皇室提供醫療。其中太醫署是隋唐時期宮廷醫療機構中規模最大，官員最多的醫療機構，總理全國醫政和醫學教育。
宋朝時太醫制度沿襲唐制而有所損益。醫事行政與醫學教育各設機構，分別管理。中央設有翰林醫官院，後改稱醫官局，設使、副使，掌供朝廷醫藥，並向宮廷、百官以及軍營、學校、地方派遣醫官。又設太醫局，隸屬太常寺，置丞、教授等職，專門管理醫學教育，培養醫學人才。“有九科醫生額三百人，歲終則會其全失而定其賞罰。”而殿中、太府兩寺亦設尚醫等局醫官，負責御藥和劑和診療。遼仿宋制，於北面官設太醫局，官有使、副使、都林牙等員，南面官又設湯藥局，屬內侍省。
至金朝，中央太醫機構始稱太醫院，隸屬宣徽院。太醫院設提點、使、副使、判官，掌諸醫藥，總領院事，統諸太醫，是專為皇家服務的醫療機構。同時，又設立專為皇帝醫療保健服務的御藥院，設提點、直長、都監、同監等屬官，掌進御湯藥。
元代繼承金朝制度，亦設太醫院，隸屬宣徽院。元代太醫院領各屬醫職，掌奉御醫藥事，設院使、院判、同知、經歷等官。但與金相比，元代太醫院無論是在制度還是在規模上都更加齊全完備。太醫院的品秩提高，其職權範圍也更廣泛，它總領全國醫政，集行政、醫療、管理於一體，是元朝最高的醫事管理機構。另外還設有掌收各路諸番進貢藥品的御藥院，掌諸醫考核和醫學教育的醫學提舉司等醫療機構。總之，元代的太醫機構空前完備，制度嚴密，在中國古代醫政史上有重要的地位。
三、發展趨勢與不足
自西周至元代，隨著古代人民認知能力的提高，以及社會生產力的不斷進步，人們對醫學、藥物學的認識逐漸深入，醫療技術也在不斷進步。而最高統治者們對醫療保健的日益重視，使得作為國家典章制度重要一環的太醫機構及其制度也隨之在繼承和變革中不斷髮展和完善。
太醫機構的設定經歷了從無到有，從簡單到複雜的過程。自西晉醫署的設立之後，各類太醫機構在中央設立，其職能也有不同。
太醫制度的不斷的完備，職官設立愈加合理明確，醫學分科愈加細緻，醫官額數不斷增加。相關的醫官管理、醫學教育和醫學人才的選拔制度也在不斷髮展和進步。這些為明代太醫機構的建立和完善奠定了非常重要的基礎。但是不可否認的是，它們仍存在許多缺陷和不足。
明以前的朝代，宮廷所設太醫機構頗多，然而這些機構隸屬又各有不同。如唐代時太醫署隸屬太常寺，而尚食局和尚藥局又隸屬殿中省，另外負責太子醫療的藥藏局又隸屬左春坊。太醫機構之間的領導和制約缺乏一套固定的規則和機制。這樣無疑降低了醫療效率，同時對於宮廷醫療制度的實施和醫藥的統一管理都產生了很大困難。
到了明代，封建專制主義中央集權空前強化，太醫機構的設立亦受中央集權思想的影響，設立太醫院協調處置醫藥機構之間的關係，開始出現了宮廷醫藥集中、統一管理的局面，大大強化了太醫院的作用，提高了醫療效率。