Banyak sumber-sumber dari tradisi Theravada yang merujuk bahasa Pali sebagai Magadhan atau bahasa pertuturan orang di Kerajaan Magadha. Hal ini muncul pertama kalinya dalam ulasan-ulasan yang diberikan kepada agama-agama sastera ajaran Buddha. Boleh jadi juga penganut ajaran Buddha cuba mengaitkan diri mereka dengan empayar Maurya yang pernah menjadi pelindung ajaran Buddha menerusi penggunaan bahasa Pali ini.
Dari segi sejarahnya, baginda Siddartha Gautama Buddha mengajar dharma di Kerajaan Magadha. Namun, empat tempat yang menjadi tapak kepada peristiwa penting dalam hidup baginda itu terletak di luar dari sempadan kerajaan ini. Kelihatan juga, baginda Buddha seolah-olah mengajar dharma menurut pemerhatian baginda dalam pelbagai jenis loghat bahasa Arya zaman pertengahan yang saling berkaitan dan boleh difahami pula oleh satu sama yang lain.
Bahasa Pali mempunyai persamaan dengan bahasa Prakrit yang tercatit pada Tiang Batu Asoka di Girnar, Gujarat, Republik India dan di Hatigumpha, Bhubhaneshvar di Kalinga atau Orissa, Republik India. Persamaan yang ditemui pada pahatan di tiang-tiang India sebelah barat Republik India itu menimbulkan kekeliruan kerana boleh jadi pemahat tiang dari Kerajaan Magadha itu tidak menterjemahkan bahan-bahan yang diterima olehnya dari Kerajaan Magadha ke bahasa tempatan di situ.
Tanpa mengira hubungan di antara pengucapan baginda Buddha dengan bahasa Pali, agama-agama Buddha kemudian masih tetap dicatit dan dipelihara. Sementara tradisi memberikan ulasan agama itu menuruti catitan-catitan agama tersebut berdasarkan kepada maklumat yang dibekalkan oleh Buddhagosa. Ia diterjemahkan ke bahasa Sinhala dan kemudian dipelihara ke dalam bahasa-bahasa tempatan di rantau penganut ajaran Buddha serata dunia berkurun-kurun lamanya.
Bahasa Pali dianggap memasuki zaman kegelapannya pada sekitar abad ke-4 atau ke-5 M di Sri Lanka. Ketika itu, bahasa Sanskrit muncul dan digunakan kembali dalam keupacaraan. Keadaan ini menyebabkan penganut ajaran Buddha mula berkurangan di benua kecil India. Karya-karya oleh Buddhaghosa berperanan besar dalam memartabatkan kembali bahasa Pali sebagai bahasa sarjana dan bahasa pendidikan. Bahasa Pali dijadikan bahasa pembelajaran fikiran dan falsafah Buddha melalui karya-karya tersebut.
Catitan untuk Visuddhimagga dan ulasan-ulasan lain yang dikumpulkan semula oleh Buddhaghosa ditandakan supaya lebih tersusun dan memenuhi kantung tradisi ulasan dalam bahasa Sinhala. Bermula abad ke-3 SM, usaha pemulihan bahasa Pali ini pun diteruskan dan diperkembang di Sri Lanka.
