1941年12月出生于上海。1984年9月加入中国共产党，大学学历，中国科学院院士，研究员。

1959年毕业于北京第二十五中学，后进入北京林业学院学习。1963年毕业，进入中国林业科学院工作，任研究实习员、教师、助理研究员、研究员。1979年至1981年在瑞典斯德哥尔摩大学从事遥感数字图象处理研究。历任中国林业科学研究院资源信息所所长，研究员。1992年1月当选为中科院地学部学部委员。1993年2月任中科院遥感应用研究所所长。1994年8月至1995年任中科院副院长。1995年后任国家科学技术委员会副主任、党组成员、党组副书记。1996年6月当选为中科院学部主席团成员、地学部主任。1998年任科学技术部副部长、党组副书记。2001年2月任科技部部长。2003年3月在十届全国人大一次会议上被任命为科学技术部部长。2007年4月27日，第十届全国人大常委会第二十七次会议决定，免去徐冠华的科技部部长职务。2008年3月任第十一届全国政协教科文卫体委员会主任。徐冠华是中共第十六届中央委员，第十一届全国政协常委。

徐冠华对世界科技发展动态有比较深入的了解，是遥感应用科学的专家。1984年被林业部批准为有突出贡献的中青年专家。1986年和1990年两次被人事部批准为有突出贡献的中青年专家。1990年被国家教委批准为有突出贡献的留学回国人员。1991被国家科委批准为国家“七五”科技攻关有突出贡献的科技人员。1991年被人事部批准为享受政府特殊津贴专家。2006年11月15日，香港城市大学颁授荣誉博士学位予徐冠华，以表彰他的成就及对社会的贡献。2009年6月，香港中文大学委任徐冠华为该校太空与地球信息科学研究所伟伦太空与地球科学研究客座教授。2010年12月，徐冠华被香港中文大学授予荣誉博士学位。