1983年3月，县始设“五讲”(讲文明、讲礼貌、讲道德、讲卫生、讲秩序)“四美”(语言美、行为美、心灵美、环境美)“三热爱”(热爱祖国、热爱中国共产党、热爱社会主义)活动委员会办公室，由主任、副主任和委员若干人组成，为临时性机构。1984年9月列为政府行政事业单位。1987年10月改为精神文明委员会办公室。1993年12月，市直机关行政机构改革后，精神文明工作由市委宣传部负责。
“文明单位”建设工作自1983年始逐步深入展开。同年3月，全县广泛开展“文明礼貌月”活动，以“五讲四美三热爱”为教育内容，以爱国卫生为突破口，重点治理“脏、乱、差”，并开始在全县评选文明单位。1984年评选县级文明单位146个。1986年10月，县委、县政府贯彻《中共中央关于社会主义精神文明建设指导方针的决议》，并制订了《兖州县“七五”期间社会主义精神文明建设规划》。文明单位建设的重点向着思想道德建设、科学文化建设、民主法制建设、城乡环境建设等高层次、全方位发展。按照《山东省文明单位建设管理条例》、《济宁市文明单位标准》、《兖州县文明单位标准》，以思想教育深入、道德风尚良好、治安秩序稳定、文化生活活跃、环境整洁美观、工作成绩显著为标准，开展评选命名活动。至1990年，全县命名县级文明单位357个(包括省、市驻兖单位)，市级文明单位38个，省级文明单位9个。省级文明单位有：兖州县实验小学、兖州化工厂、兖州县城郊乡马桥村、兖州肉类联合加工厂、兖州矿务局兴隆庄煤矿、山东省兖州煤矿机械厂、山东拖拉机厂、中国农业银行兖州县支行、济南铁路局兖州电务段。
文明单位的创建，实行动态管理，坚持一年一申报，一年一评选，计划生育、社会治安、环境保护、经济效益一票否决制度，在审批手续上严格把关，严格审批，使所评选上的文明单位都较好地起到示范带头作用。截至1995年底，全市共有省级文明单位9个，即山东省兖州煤矿机械厂、山东拖拉机厂、兴隆庄煤矿、铁路十四局三处、济南铁路分局兖州电务段、兖州市国家税务局、中国农业银行兖州市支行、兖州市实验小学、兖州市兴隆庄镇护驾营村。济宁市级文明单位33个，兖州市级文明单位(含省、地级文明单位)422个。同时撤销了市染织厂等42个文明单位荣誉称号。
按照省和济宁市精神文明委员会的要求，为配合创建精神文明建设先进县活动，1992年初，在农村广泛开展“新风户”工作，共评选出“新风户”8万户，占总户数的75%。同年，全县城乡开展夺“十杯”工作。是年底，兖州市被省委、省政府评为精神文明建设工作先进市。1995年，立足抓“社会细胞”工程，在全市广泛开展创建“十星级文明户”活动。年底，全市已有10万户挂上星级文明户牌，其中十星级文明户1.08万户，占挂牌总户数的11%。