1928年，梁思成在回國之前，曾到歐洲參觀了希臘、意大利、法國、西班牙等地的著名古建築。他親眼看到國外的古建築受到妥善保護，許多學者在對它們進行專門的研究，而對比自己的國家，一個有著幾千年文化傳統的中華民族，祖先給我們留下了如此豐富的古建築遺產，如今卻是滿目蒼涼。珍貴的龍門石窟、敦煌壁畫任意被盜賣，被搶劫，千年文物流落異邦，大批古建築危立在風雨飄搖之中。只有少數外國學者對它們進行過一些考察，而國內學者反而無力從事研究，甚至中國人學習自己祖先的文化遺產都要依靠國外編著的書刊，這是多麼令人痛心的狀況。梁思成深深感到這是一種民族的恥辱，他懷著激昂的愛國熱誠，奮然下定決心：中國人一定要研究自己的建築，中國人一定要寫出自己的建築史。從1931年起，他將畢生精力投入到這項事業中去。一開始梁思成就把近代的科學方法應用到研究中國古建築上，他明確提出：“近代學者治學之道，首重證據，以實物為理論之後盾，俗諺所謂‘百聞不如一見’，適合科學方法。”所以，他堅持研究古建築首先必須進行實地的調查測繪。選擇北京故宮作目標，因為這是目前留存最大量的明、清兩代古建築的代表。他手執清代朝廷公布的《工部工程作法則例》為課本，對著實物，從整體到局部，一一逐個辨識、測量、記錄。他老老實實地求教老工匠，在他們幫助下逐漸弄清了清代建築的結構與形制，這如同跨入了門檻，為擴大調研范圍創造了條件。從1932年4月開始，梁思成對薊縣獨樂寺遼代建築進行了調查，寫出了詳細的報告，在不長的時間裡，又連續寫出了《正定古建築調查紀略》、《大同古建築調查報告》、《趙縣大石橋》、《晉汾占建築預查紀略》、《曲阜孔廟之建築及修茸計劃》等10余篇論文和報告，將一座座從漢唐、宋遼到明清各代的古建築珍寶展現在人們面前。
對古建築的調查研究，梁思成堅持測量力求細致，分析要有根據，繪圖要嚴密，所出成果要與世界水平比高低。30年代的華北，人民生活極端困苦，梁思成每次外出調查都要經受不少工作和生活上的困難，條件十分艱苦，但他對測繪工作始終一絲不苟，並且身體力行。他和助手們一起，對建築物從整體到局部進行詳細地繪圖測量；對各種構件與裝飾，從裡到外，從正面到側面都細致地加以攝影記錄；對所有碑文、史料都一一抄錄無誤。正是憑著這一種民族自尊心和志氣，使當時營造學社的許多研究成果，測繪的許多圖紙都達到了國際水平。
經過對古建築的系統調查研究，梁思成終於得到了豐碩的成果。1934年，他編著了《清式營造則例》一書，這部著作第一次將繁雜的中國古建築構造和形制作了科學的整理和分析，對清代建築的各部分作法和制度作了較詳細的介紹和論述，第一次用近代的建築投影圖繪制出清式建築構架、門窗、裝飾和彩畫的詳圖，使人們在多彩的占建築遺跡面前不再停留在般的感歎上，而獲得了科學的認識和了解。幾十年來。這部《清式營造則例》成了初學中國古建築的入門必讀教材，研究中國古建築的不可少的資料，，也是如今古建修整工作人員常用的工具書
1937年，梁思成和林徽因、莫宗江等人去山西五台山調查佛光寺。正當他們為第一次發現一座唐代建築而歡喜若狂時，北京蘆溝橋畔已燃起了抗的烽火梁思成和劉敦桢帶領著僅有的幾位研究人員，在雲南、四川等地仍堅持著古建築的研究，他們調查了40余個縣，為當時的中央博物館繪制了大量古建築模型圖，在印刷條件十分困難的情況下，仍出版營造學社的匯刊。1944年，梁思成開始撰寫《中國建築史》。這時，多病的身體折磨著他，脊椎軟骨硬化病使他不得不經常戴著鐵馬甲工作；學社經費來源的斷絕又使他不得不多次去重慶政府募化微薄的津貼；十分短缺的物質條件使得只能靠大量的線描圖來彌補照片的不足。在林微因、莫宗江、、盧繩等人的協助下，一部由中國人自己編寫的中國古代建築史，終於在抗日時期西南的一個小山莊裡完成了。在這部著作中，梁思成根據大量的實物和文獻資料，第一次按中國歷史的發展，將各時期的建築，從城市規劃、宮殿、陵墓到寺廟、園林、民居都作了詳細的敘述，並對各時期的建築特征作了分析和比較。這些論述和分析都遠遠超過了過去外國人對中國建築的研究水平，達到了前人所沒有達到的高度。1946年10月，美國耶魯大學聘請梁思成去講學，他帶著《中國建築史》和同時完成的《中國雕塑史》的書稿、圖片，以一個中國人的自豪心情將中華民族的文化珍寶展示在國際學術界面前，他以豐富的內容和精湛的分析博得了國外學術界的極大欽佩和贊揚。這些成就離不開集體的勞動，中國營造學社的成員們在十幾年的時間裡，走訪了15個省，近200個縣，測量、攝影、分析、研究了2000余項建築與文物，積累了大量資料。梁思成正是根據這些豐富資料，去粗存精，分析比較，和同事們一起使中國古建築這一瑰寶，終得拂去塵埃，重放異彩於世界文化之林。