埔心人。父黃義，外號「打鳥義」，日治時期曾任地方保正及埔心地區製糖會社原料的負責人，並於昭和4年(1929)興建今埔心鄉二重村的「黃家洋樓」；母楊水，育有5子。長子三井為彰化縣第二屆縣議員，次子三木曾任彰化銀行總經理，四子三輝任職正新橡膠公司，五子三本任職彰化農田水利會；其排行第三。
自員林高中畢業後，陸續於埔心鄉公所、地政事務所、水利局等機關服務。但由於對歌唱表演藝術充滿嚮往，退伍後決心走上歌唱這條路。民國49 年（1960)被亞洲唱片公司發掘網羅，同年與當時十分出名的童星文英合唱「阮不愛你」，轟動全國；之後演唱「素蘭小姐要出嫁」、「思念故鄉的情人」、「媽媽交代的話」、「小姑娘入城」、「草地人」等曲，唱腔活潑輕快，鄉土味十足，深獲聽眾所喜愛，尤以「素蘭小姐要出嫁」最膾炙人口 。民國53年起， 主演「素蘭小姐要出嫁」、「三元相思曲」、「意難忘」等片，在電影上映時隨片登台，成為歌影雙棲的紅牌明星。另外，他是第一個為員林地方農產「員林椪柑」代言的人，主唱「賣椪柑的小姑娘」，此舉可說是臺灣早期置入性行銷的方式之一 。
在閩南語歌曲獨霸臺灣市場之際，男歌星中以他與文夏、洪一峰最受注目，在洪一峰遠走日本後，與文夏各攬一片天，被稱為「寶島歌王」，歌壇有「南三元，北文夏」之說。4然而，經歷兩次重大車禍及一次中風後，一度中斷演藝生涯，不過，仍憑著堅強的意志力再度站起來。民國62年(1973) 參加葉啟田舉辦的全國懷念歌王歌后演唱會，在眾多歌迷的鼓勵下重新出發，以「晚頭仔水雞」、「割稻仔歌」再度走紅。直到民國78年二次中風，身體再也無力抵擋病魔的摧殘。5晚年疾病纏身，民國88年1月24日病逝員林協和醫院。
除與元配詹月珠育有7女，又與陳美娥育有2子1女。
