吴家玮于1937年在上海出生，1954年毕业于香港培正中学。1955年赴美留学，在乔治镇学院攻读物理与数学，获理学士学位。其后转到华盛顿大学深造，先后取得物理学硕士及博士学位。1966至1968年间，吴家玮在加州大学(圣地牙哥)作博士后进修。1968年到西北大学担任物理学助理教授；1970年在伊利诺大学任客座副教授。次年返回西北大学升任副教授；随即在1973年晋升为正教授，并于1974年开始(至1979年)担任物理及天文学系主任。1979年，出任加州大学(圣地牙哥)斐尔学院院长，兼任物理学教授。1983年，在45岁时，受聘出任旧金山州立大学校长，成为美国有史以来第一位华裔大学校长。
吴家玮教授现任全国政协委员、瑞安集团高级顾问。1988年至2001年间，他担任香港科技大学的创校校长，现为荣休校长及荣休科大讲座教授。
他现任第一上海投资有限公司、上海实业(集团)有限公司、联想集团有限公司、商务印书馆电子商贸控股有限公司、万威国际有限公司等的独立非执行董事。
