Najzgodnejše dokaze karnatske glasbe najdemo v glasbenih tradicijah starodavnega tamilskega ljudstva. Starodavni Tamilci so razvili glasbeni sistem, imenovan Tamizh Isai, ki je temeljil na lestvici s sedmimi notami (Saptha Swaras) in je uporabljal različne glasbile, vključno z yazhom (glasbilo s strunami) in kudamom (inštrumentom s strunami). Tamizh Isai so uporabljali za verske obrede in kulturne prireditve.
Karnatska glasba se je kasneje razvila pod vplivom hindujske vere in pokroviteljstvom vladajočih dinastij Južne Indije. V 14. stoletju se je cesarstvo Vijayanagara pojavilo kot močno kraljestvo v južni Indiji in postalo glavno središče za razvoj karnatske glasbe. Vladarji Vijayanagare so bili veliki pokrovitelji glasbe in plesa ter so spodbujali rast glasbenih šol in ustanov. Naročili so tudi komponiranje številnih novih glasbenih del, vključno s kriti, swaras in jathi.
V 17. in 18. stoletju je karnatska glasba cvetela pod vladavino imperija Maratha in kraljestva Mysore. Maratski vladarji so bili veliki poznavalci glasbe in plesa in so spodbujali rast karnatske glasbe na svojih dvorih. Mysoreski vladar Krishnaraja Wodeyar III. je bil velik pokrovitelj glasbe in plesa in je naročil mnoga nova glasbena dela.
V 19. stoletju je karnatska glasba prišla v stik z zahodno glasbo zaradi britanske kolonizacije Indije. Nekateri karnatski glasbeniki so začeli v svojo glasbo vključevati zahodne elemente, kot sta uporaba klavirja in violine. Vendar je karnatska glasba ohranila svoj tradicionalni značaj in še naprej temeljila na lestvici sedmih not ter uporabi rag in talasov.
Danes je karnatska glasba cvetoča oblika umetnosti in jo izvajajo glasbeniki po vsem svetu. Velja za enega najbolj izpopolnjenih in kompleksnih glasbenih sistemov na svetu in je občudovan zaradi svoje lepote, čustvene globine in duhovnega pomena.