1932年9月出生于安徽省合肥市。抗日战争时期随家庭迁居于当时的安徽省会立煌县(解放后改名金寨县),并在那里开始了他的启蒙小学教育。1943年,毕业于高琦小学,同年考入私立中正初级中学。
1945年,随学校返归合肥。
1947年,初中毕业后,考入合肥中学高中部,后改名为合肥市第一中学。
1950年,考入北方交通大学唐山工学院(现西南交通大学)建筑系。
1952年,随唐院建筑系先调整到北京铁道学院,再调整入天津大学。
1953年,毕业于天津大学土木建筑系并留校任教至今。
1956年,他年仅24岁,就在《建筑学报》发表学术论文 《适合于我国南方地区的小面积住宅方案探讨》,即受到了学报编辑和读者的好评。嗣后,又陆续发表《螺旋发展与风格渐近》、《空间、体形与建筑形式的周期性演变》等学术论文近30篇。这些论文都具有他自己独特的见解和风格。在建筑界产生了广泛的影响。
1978年,由中国建筑工业出版社出版了第一部专著《建筑绘画基本知识》,后经增补更名为《建筑空间组合论》,这部书以其系统性和知识性见长,是建筑绘画的入门教科书。
1983年晋升为教授,1985年担任博导。
1983年,由中国建筑工业出版社出版的《建筑空间组合论》,是一部理论性很强的学术专著,彭一刚又致力于传统建筑文化与当代建筑创新的科学研究工作,并在理论与实践上取得重大成就。1985年担任博导,国务院学位委员会第四届学科评议组建筑学学科召集人。
1986年经国务院学位委员会评定为博士研究生导师。
1986年,中国建筑工业出版社出版了他的第三部学术专著《中国古典园林分析》。该书用现代的空间理论和观念对中国古代造园艺术的成就作了深入详尽的分析。
1992年,彭一刚又完成另一部学术著作《中国传统村镇聚落的景观分析》,可称为《中国古典园林分析》一书的妹妹篇。
1995年当选为中国科学院院士。曾任第八、第九届全国政协委员,民盟中央委员,民盟天津市委常委。