从有文字记载的殷周的囿算起，中国园林已有三千多年的历史。随着社会的进步，中国园林逐渐形成独特的民族形式，自成体系。
囿，是中国古代供帝王贵族进行狩猎、游乐的一种园林形式。通常在选定地域后划出范围，或筑界垣。囿中草木鸟兽自然滋生繁育。狩猎既是游乐活动，也是一种军事训练方式；囿中有自然景象、天然植被和鸟兽的活动，可以赏心悦目，得到美的享受。
有文字记载的最早的囿是周文王的灵囿(约公元前11世纪)。《诗经·大雅》灵台篇记有灵囿的经营，以及对囿的描述。如“王在灵囿，鹿鹿攸伏。鹿鹿濯濯，白鸟篙篙。王在灵沼，於轫鱼跃。”灵囿除了筑台掘沼为人工设施外，全为自然景物。秦汉以来，绝少单独建囿，大都在规模较大的宫苑中辟有供狩猎游乐的部分，或在宫苑中建有驯养兽类以供赏玩的建筑和场地，称兽圈或囿。
秦始皇统一中国后，营造宫室，规模宏伟壮丽。这些宫室营建活动中也有园林建设如“引渭水为池，筑为蓬、瀛”。汉代，在囿的基础上发展出新的园林形式-- 苑，其中分布着宫室建筑。苑中养百兽，供帝王射猎取乐，保存了囿的传统。苑中有宫、有观，成为以建筑组群为主体的建筑宫苑。汉武帝刘彻扩建上林苑，地跨五县，周围三百里，“中有苑二十六，宫二十，观三十五。”建章宫是其中最大宫城，“其北治大池，渐台高二十余丈，名曰太液池，中有蓬莱、方丈、瀛洲，壶梁象海中神山、龟鱼之属。”这种“一池三山”的形式，成为后世宫苑中池山之筑的范例。
西汉时已有贵族、富豪的私园，规模比宫苑小，内容仍不脱囿和苑的传统，以建筑组群结合自然山水，如梁孝王刘武的梁园。茂陵富人袁广汉于北邙山下筑园，构石为山，反映当时已用人工构筑石山。园中有大量建筑组群，园中景色大体还是比较粗放的，这种园林形式一直延续到东汉末期。
魏晋南北朝长期动乱，是思想、文化、艺术上有重大变化的时代。这些变化引起园林创作的变革。早在东汉桓帝时大将军梁冀大起第舍，"又广开园囿，采土筑山，十里九坂，以象二崤，深林绝涧，有若自然，奇禽驯兽，飞走其间"。这已开山水园的先河。十六国时期，后燕帝慕容熙在平城(今大同)筑龙腾苑，广袤十余里，起景云山于苑内，基广五百步，峰高十七丈。这时期的筑山以仿真山为主，所以山必求其宏大，峰必求其高峻。
隋炀帝杨广即位后，在东都洛阳大力营建宫殿苑囿。别苑中以西苑最著名，西苑的风格明显受到南北朝自然山水园的影响，采取了以湖、渠水系为主体，将宫苑建筑融于山水之中。这是中国园林从建筑宫苑演变到山水建筑宫苑的转折点。
隋西苑的布局继承了汉代“一池三山”的形式，反映了王权与神权的统治以及享乐主义思想，具有浓厚的象征色彩。十六组建筑庭园分布在山水环绕的环境之中，成为苑中之园，不象汉代宫苑那样以周阁复道相连。这是从秦汉建筑宫苑转变为山水宫苑的一个转折点，开北宋山水宫苑──艮岳之先河。山上的建筑能时隐时现，反映建筑技巧的提高。
唐朝国力强盛，长安城宫苑壮丽。大明宫北有太液池，池中蓬莱山独踞，池周建回廊四百多间。兴庆宫以龙池为中心，围有多组院落。大内三苑以西苑为最优美。苑中有假山，有湖池，渠流连环。长安城东南隅有芙蓉园、曲江池，一定时间内向公众开放，实为古代一种公共游乐地。
盛唐时期，中国山水画已有很大发展，出现了寄兴写情的画风。园林方面也开始有体现山水之情的创作。盛唐诗人、画家王维在蓝田县天然胜区，利用自然景物，略施建筑点缀，经营了辋川别业，形成既富有自然之趣，又有诗情画意的自然园林。中唐诗人白居易游庐山，见香炉峰下云山泉石胜绝，因置草堂，建筑朴素，不施朱漆粉刷。草堂旁，春有绣谷花(映山红)，夏有石门云，秋有虎溪月，冬有炉峰雪，四时佳景，收之不尽。唐代文学家柳宗元在柳州城南门外沿江处，发现一块弃地，斩除荆丛，种植竹、松、杉、桂等树，临江配置亭堂。这些园林创作反映了唐代自然园林式别业山居，是在充分认识自然美的基础上，运用艺术和技术手段来造景、借景而构成优美的园林境域。
从中晚唐到宋，士大夫们要求身居市井也能闹处寻幽，于是在宅旁葺园地，在近郊置别业，蔚为风气。唐长安、洛阳和宋开封都建有大量第宅园池。宋代洛阳的第宅园池多半就隋唐之旧。从《洛阳名园记》一书中可知唐宋宅园大都是在面积不大的宅旁地里，因高就低，掇山理水，表现山壑溪池之胜。点景起亭，揽胜筑台，茂林蔽天，繁花覆地，小桥流水，曲径通幽，巧得自然之趣。这些名园各具特色。这种根据造园者对山水的艺术认识和生活需求，因地制宜地表现山水真情和诗情画意的园，称为写意山水园。
洛阳名园指北宋时期洛阳城郊的花园、宅园、别墅，多数是在唐代旧园的故址上修葺改建的。北宋李格非《洛阳名园记》(1095)提到唐代公卿贵戚在洛阳的府邸园林有1000多处，后因战乱，池塘竹树废为丘墟，高亭大榭成为灰烬。北宋时有的修复，李格非曾游览并加以评述的有20处。其中花园3个、宅园6 个、别墅11个。
北宋时建筑技术和绘画都有发展，出版了《营造法式》，兴起了界画。宋徽宗赵佶先后修建的诸宫，都有苑囿。政和七年(1117)始筑万岁山，后更名艮岳。艮岳主山寿山，岗连阜属，西延为平夷之岭；有瀑布、溪涧、池沼形成的水系。在这样一个山水兼胜的境域中，树木花草群植成景，亭台楼阁因势布列。这种全景式地表现山水、植物和建筑之胜的园林，称为山水宫苑。
明、清是我国园林建筑艺术的集大成时期，此时期规模宏大的皇家园林多与离宫相结合，建于郊外，少数设在城内的规模也都很宏大。其总体布局有的是在自然山水的基础上加工改造，有的则是靠人工开凿兴建，其建筑宏伟浑厚、色彩丰富、豪华富丽。
明、清的园林艺术水平比以前有了提高，文学艺术成了园林艺术的组成部分，所建之园处处有画景，处处有画意。
明、清时期造园理论也有了重要的发展，出现了明末吴江人计成所著的《园冶》一书，这一著作是明代江南一带造园艺术的总结。该书比较系统地论述了园林中的空间处理、叠山理水、园林建筑设计、树木花草的配置等许多具体的艺术手法。书中所提“因地制宜”、“虽由人作，宛自天开”等主张和造园手法，为我国的造园艺术提供了理论基础。
