清末，县衙设有工房，管理公共工程建设，建筑设计以演样为主。民国时期和中华人民共和国成立初期，公用建筑的设计由政府公共建设管理机构兼管。民用建筑由建设一方自行设计。
1957年，县房产科组建工程设计组，有设计员3人，技术员2人，预算员1人。1962年设计组改为设计室，有工作人员8名，图纸靠阳光晒制。1964年，县建筑合作社成立，所承担的一般建筑工程自行设计。1972年，城市基本建设局所属工程设计室有工作人员6名，备有电子计算器。1982年县基本建设委员会所属建筑设计所获山东省勘察设计单位证明书，时有工作人员8人，其中助理工程师1人，技术员3人。1983年县建委制定《设计管理制度》、《设计管理程序》等章程，限制无证设计，扭转了建筑单位和施工单位自行设计的局面。
1985年，设计所成为建委所属的独立核算单位，设有土建设计组、水暖设计组、档案资料组、质量评定组、方案审查组，有工作人员16名，其中高级工程师1人，工程师3人，助理工程师4人，技术员8人。采用微机编制预算、绘制图纸。1992年，设计所更名为兖州市建筑设计院，1993年晋升为乙级设计院。1995年有工作人员38名，其中高级工程师2人，工程师5人。1968～1995年，共完成单项设计1061个，其中大中项目81个，获济宁市奖励项目6个:百货大楼、鲁门商场、邮电局综合楼、皇城百货大厦获济宁市三等奖，九州百货大厦获济宁市二等奖，少陵公园大门获济宁市一等奖。