Wilson se je rodil 23. junija 1947 v indijanskem rezervatu Sioux v Južni Dakoti. Bil je sin polnokrvne ženske Sioux in očeta Irca. Wilson je bil vzgojen v rezervatu in je že zgodaj začel igrati kitaro. Nanj je vplivala tradicionalna glasba svojega ljudstva, pa tudi rokenrol 50. in 60. let prejšnjega stoletja.
Po srednji šoli se je Wilson preselil v Minneapolis v Minnesoti. kjer je ustanovil skupino, imenovano Sugarloaf s svojim svakom Craigom Fullerjem in kolegom pevcem in tekstopiscem Michaelom Omartianom.
Skupina je imela nekaj uspeha in posnela dva albuma za RCA Records, preden je leta 1971 razpadla.
Po razpadu Sugarloaf , se je Wilson preselil v Los Angeles v Kaliforniji, kjer je ustanovil Pure Prairie League leta 1972.
Skupina je hitro pridobila privržence in v sedemdesetih letih prejšnjega stoletja izdala številne uspešne albume.
Nekatere izmed njihovih najbolj priljubljenih pesmi vključujejo " Amie" , "Padli angeli" in » Let Me Love You Tonight ".
Leta 1979 je Wilson zapustil Pure Prairie League in se podal na solo kariero.
Izdal je dva samostojna albuma, "Jeff Wilson" (1981) in "Never Be the Same" (1983), vendar niso bili tako uspešni kot njegovo delo s Pure Prairie League.
Wilson je nadaljeval s turnejami in nastopi v osemdesetih in devetdesetih letih prejšnjega stoletja, vendar se je njegovo zdravje v poznih osemdesetih letih poslabšalo. Odkrili so mu raka na grlu in prestal je več krogov zdravljenja.
12. decembra 1991 je Jeff Wilson umrl za rakom na grlu v starosti 44 let .
Zapustil je ženo, dve hčerki in dva sinova.