1963年出生于山东省济南市。
1981至1985年就读于山东艺术学院美术系，毕业后留校任教。
1985年投入《中华百年祭》大型中国画组画的创作。处女作《血雨腥风》参加《中国首届高等艺术院校教师美术作品展》。
1987年至1988年入中央美术学院中国画系进修学习。
1988年作品《母亲的愤怒》获首届全国书画大赛二等奖。
1988年于山东济南首次举办个人画展。
1989年8月由于教学楼维修施工引起画室意外失火，创作作品数百件《中华百年祭》素描草图，创作资料全部被毁。
1990年重新投入《中华百年祭》组画创作。
1992年于山东艺术学院展厅举办了“蔡玉水素描速写展”。
1993年作品《1937-中国百年大难》(组画之一）参加中国美协主办的“首届中国画展览会”。
1994年作品《1937-历史思考的片段》参加“1994全国中国画、油画精品展”并获优秀奖。
1995年作品《与妻书-怀念林觉民烈士》参加“全国第八届美术作品展”。
1995年获中国艺术研究院颁发的“中国画学术精诚奖”。
1995年5月在山东美术馆举办《中华百年祭》蔡玉水画展。
1995年6月在中国美术馆中央圆厅举办《中华百年祭》蔡玉水画展，成为新中国建国以来享有在中央圆厅展示作品这一殊荣的最为年轻的艺术
1995年11月应邀赴印度尼西亚进行创作及文化交流。
1997至1998年深入东南亚各国进行艺术调查与封闭式创作。
1998年在印度尼西亚巴厘岛举行个展。
1999年6月第二次在中国美术馆举办个展。
1999年举办蔡玉水亚洲巡回画展。
1999年10月应新加坡南洋艺术学院院长何家良先生的邀请主持新加坡南洋艺术学院“蔡玉水混合媒介工作坊”，参与“1999——2000年新加
跨世纪美展”。
2000年主持新加坡“南洋艺术学院混合媒介‘创意’美术作品展”。
2000年8月于新加坡新闻与艺术部大厦中央大厅举办“地狱与天堂”蔡玉水大型绘画作品展，成为新加坡建国以来第一个在其国家新闻与艺术
举办个人画展的外籍艺术家。
2000年10月、11月在比利时、荷兰、德国举行个展。
2001年入选文化部、中国美协、中国美术馆主办的“百年中国画大展”。
2002年回国。
2002年在山东省博物馆举办“生命.艺术.关爱─蔡玉水人文艺术之旅”大型艺术作品展。
2003年入选全国政协主办的“当代国画优秀作品展”。
2003年任教于山东工艺美术学院。
2003年在山东大厦会展中心举办“天堂漫步——蔡玉水速写艺术珍藏展”。
蔡玉水的《中华百年祭》被当今学者、中国美术界权威人士及国内外报刊杂志评价为：“自‘五四’运动以来，大型水墨画历史人物画创作的第三个里程碑”。作品被载入《中国美术大全》、《20世纪中国美术图典》、《中国美术年鉴》、《中国当代美术1979 —1999》、《百年中国画集》。
其个人传记收入《中国名人录》、《中国知识分子名人录》(英国剑桥)、《世界杰出华人名人录》等。
其作品被中国、美国、德国、瑞士、法国、比利时、香港、台湾、东南亚各国及地区美术馆，企业机构及私人所收藏。1996年 —— 2003年作品连年进入苏富比与克利斯蒂在新加坡、台湾、荷兰等地拍卖会，以及中国嘉德拍卖会。
出版有《蔡玉水画集》(中英文版)、《蔡玉水速写技法》、《天堂漫步——蔡玉水速写艺术珍藏》、《蔡玉水画选》等。