考古学家在房山县周口店龙骨山发现的“北京人”遗址供给我们中国建筑史上最早的实物资料。它说明四五十万年前，华北平原上使用板粗的石器，已知用火的猿人解决居住问题的“建筑”是天然石灰岩洞穴。
在周口店猿人洞的山顶上又发现有约十万年前的人骨化石、石器和骨器。考古家称这时期的文化为“山顶洞文化”。这时遗留的兽骨、鱼骨，证明这时的人过的是渔猎生活。遗物中有骨针，证明他们已有简单的缝纫；人骨化石旁散有染红的石珠，显然他们已有爱美装饰的观念。
天然洞穴之外，还有人工挖掘的窖穴，许多是上小下大的“袋形穴”。这些大约是公元前三千年的遗迹。在华北黄土区削壁上也有掘进土壁的水平的洞。
中国境内一向居住着文化系统不同、祖先世系不同的各种族。他们各在所居住的土地上，和自然界作斗争，发展自己的文化，也互相有冲突、互相影响，以至于融合。在地下遗物中留着不少痕迹。
在河南渑池县仰韶村发现有较细的石器、石制农具、石制纺轮、石诺和彩色陶器等遗物的遗址。这些遗物证明居住在这里的人的生话情况是畜牧业和最原始的农业逐渐代替了渔猎，因而开始定居、并有了手工业。和它同系的文化散布在广大的中国西北地区，总称做“仰韶文化”。当时的人居住过的遗址多半在河谷里，大约为了取水方便，又可以利用岸边高地掘洞穴。
在山西夏县遗址中所见，他们的住处是挖一长方形土坑，四面有壁，像小屋，屋屋相连，很像村落。仰韶文化是中国人民所创造的重要文化之一，考古家推断为黄帝族的文化，比羌、夷、苗、黎等族有更高的成就，距今约有四五千年。这时期不但有较细致的石制骨制器物，而且纹饰复杂，色彩美丽，有犬、羊和人的形纹画在陶器上。遗迹中有许多地穴，虽然推测穴上也可能有树枝茅草构成的覆盖部分，但因木质实物丝毫无存，无法断定。
古代文献给我们最早的纪录资料是春秋时人提到的尧、舜时期的房子：尧的“堂高三尺，茅茨土阶。”现在我们所己得到的最早的建筑实物是河南安阳殷时代的宫殿或家庙遗址：底下有高出地面的一个土台，上有排列的石础和烧剩的木柱的残炭。大体上它们是符合于“堂高三尺”的说法的。但由于殷墟遗址上地穴仍然很多，一般人民居住的主要仍是穴居和半穴居方法，有茅茨和高出地面的土台的，可能是阶级社会开始时的产物，在尧时还没有出现。殷墟夯土台以下所发见比殷文化更早的穴居，它们是两两相套的因形穴，状如葫芦，也像古代象形字里的“宫”字，穴内培面已用白灰涂抹。
阶级社会开始于夏。夏的第一代禹是原始灌溉的发明者，又因同黎族、苗族战争胜利，把俘虏做奴隶，用于生产，是生产力大大跃进的时代。
生产力的提高开始影响到生产关系。禹的儿子启承继父亲做酋长，开始了世袭制度。历史上称这一世系的统治者做夏朝，是中国历史上第一个朝代。由这个时期起才开始破坏了原始公社制度，产生了阶级社会；社会中贵与贱，贫与富逐渐分化，向着奴隶制度国家发展。
夏的文化就是考古学家所称的黑陶或龙山文化，分布地区很广（河南、山东和江南都有遗物发现），农业知识和手工艺的水平高于仰韶文化。但夏时常迁都，主要遗址尚待发掘。
传说夏有城郭叫做“邑”。财产私有才有了保卫的必要；有了奴隶的劳动，城池一类的大土方建筑也成了可能。
在山东龙山镇城子崖发现一处有版筑城墙的遗址，培高约六米，厚约十米，南北长四五十米，东西三九十米，工程坚固，但是否夏的实例，我们还不能得出结论。
夏启袭位以后，召集各部落首长在“钩台”大会，宣告自己继位。因为夷族不满意，启迁到汾浍流域的大夏，建都称做“安邑”。
这两个作为地名的“台”和“邑”，和这类型的建筑物可能是有关系的。高出地面的和围起来的建筑物似乎都是在阶级社会形成的初期出现的。
夏启传到著名暴君桀是四百多年长的时间，纺织业和陶器物都很发达，已用骨占卜，后半期也有铜的遗物。文化又有若干进展。奴隶主的残酷统治招致了灭亡。夏桀是被殷的祖先商汤所灭。
商是在东方的部落，在灭夏以前已有十几代，文化已有相当发展，农业知识比夏更高，手工业也更进步，并且已利用奴隶生产，增加货物的制造。和建筑技术有密切关系的造车技术也传说是汤的祖先相土和王亥等所发明的。尤其是王亥曾驾着牛车在部落间做买卖交易货物，这个事实和后代的殷民驾车经营商业的习惯有关。
商汤传了十代，迁都五次，到盘庚才迁移到现在河南安阳县的小屯村。这地方就是考古学家曾作科学发掘研究的殷墟遗址所在。内中有供我们参考的中国最早的地面建筑物的基址残迹。盘庚以后传到被周武王灭掉的纣，商朝文化又经过六百余年的发展。
在阶级剥削的基础上，商朝的文化比夏朝更有显著的进步。中国古代文化，包括文学、音乐、艺术、医药、天文、历法、历史等科学，在商朝都奠定了初基，建筑也不是例外。
殷墟遗址的发掘给了我们一些关于殷代建筑的知识。遗址是一些土台，大致按东西和南北的方向排列着，每单位是长方形的，长面向前。发掘所见有夯土台基，柱下有础石，且用铜板垫在柱下，间架分明，和后代建筑相同。因有东西向的和南北向的基址，可见平面上已有“院”的雏型。大建筑物之前还有距离相等的三座作为大门的建筑。韩非子所说的尧“堂高三尺，茅茨土阶”倒很像是描写殷代的宫殿或家庙的建筑。至于史记所说“南距朝歌，北据邯郸及沙丘，皆为离宫别馆”，形状如何，已不可见。
殷亡后，封在朝鲜的殷贵族箕子来朝周王，路过殷墟，有“感官室毁坏生禾黍”的话。我们知道这些建筑在周灭殷时就全部被焚毁了。
考古学家断定殷墟所发掘的基址是“家庙”。这些基址的周围有许多坑穴，埋着大量的兽骨——祭祀时所杀的祭牛，乃至象、鹿等骨骼，也有埋着人骨的。
另外经过发掘的是一些大型墓葬，内部用巨木横叠结构作墓室，规模底大，不但殉葬器物数量大，珍品多，还杀了大量俘虏殉葬。这些资料所反映的情况是段统治者残酷地对待奴隶，迷信鬼神，隆重地祭祀祖先，积聚珍品器物，驱使有专门技术的工奴为统治者制造钢器、玉器、陶器、骨器、纺织等和进行房屋建造。遗址中还有制造各种器物的工场。