Phạm Duy sinh tại Hà Nội năm 1921, theo học các Trường Trung Học Thăng Long, Cao Ðẳng Mỹ Thuật, Kỹ Nghệ Thực Hành, tự học nhạc và đi huấn nghệ tại Pháp trong hai năm 1954-1955, học trò của Robert Lopez và bàng thính viên tại Institut de Musicologie, Paris.
Khởi sự đời nhạc của mình là một ca sĩ trong gánh hát Ðức Huy, đi hát lưu động trong những năm 1943-1945. Rồi trở thành cán bộ văn nghệ trong cuộc Kháng Chiến chống Pháp. Vào sinh sống tại miền Nam một vài năm trước khi đất nước bị phân chia, trong suốt hơn 20 năm, Phạm Duy là người phản ảnh đầy đủ mọi khía cạnh đời sống tình cảm của người dân trong nước.
Phạm Duy chia sự nghiệp của mình ra nhiều giai đoạn :
* Khởi đi từ dân ca, ghi lại hình ảnh người dân Việt Nam trong thời đấu tranh giành độc lập rồi tới trường ca là liên khúc của nhiều bài dân ca, nói lên sự vĩ đại của dân tộc Việt.
* Sau đó là tâm ca, những bài ca thức tỉnh lương tâm, phản đối bạo lực và lòng phi nhân.
* Tới đạo ca, mang tính chất thiền ca, là những bài hát đi tìm sự thật.
* Rồi tới tục ca, những bài hát tiếu lâm nói thẳng vào cuộc đời đầy rẫy ngụy thiện.
* Tới bé ca, nữ ca và bình ca là những khúc hoan ca.
* Chưa kể những tình khúc mà suốt 40 năm qua, nghĩa là trải qua ba thế hệ, bất cứ đôi tình nhân Việt Nam nào cũng đều hát tới và sẽ nhớ mãi.
Sau biến cố tháng Tư năm 1975, Phạm Duy và gia đình di cư qua Hoa Kỳ, cư ngụ tại Midway City, California, tiếp tục hành nghề hát rong và thường xuyên có mặt tại khắp nơi trên thế giới để hát những bài thuộc loại mới là tị nạn ca, ngục ca và hoàng cầm ca.
Từ mùa Xuân 1988, với sự hợp tác của con trai Duy Cường, Phạm Duy chuyển hướng từ nhạc đơn điệu qua nhạc đa điệu. Sau khi tung ra 10 bài rong ca với nhan đề Người Tình Già Trên Ðầu Non hay là Hát Cho Năm 2000, Phạm Duy hoàn tất Tổ Khúc Bầy Chim Bỏ Xứ, bài này được khởi soạn từ 1975 và phải đợi 15 năm sau mới hoàn thành. Các trường ca Con Ðường Cái Quan và Mẹ Việt Nam cũng được phóng tác để trở thành nhạc giao hưởng.
Tới 1992 thì Phạm Duy rời lĩnh vực nhạc xã hội để tiến qua nhạc tâm linh với những nhạc phẩm Ðạo Khúc Thiền Ca, Trường Ca Hàn Mặc Tử...
1995 là lúc Phạm Duy đi vào kỹ thuật để thăng tiến nghệ thuật, tức là đi vào lãnh vực Multimedia. Ðĩa CD-Rom đầu tiên của người Việt Nam trên thế giới đã ra đời, mang tựa đề Voyage Through Motherland – Hành Trình Trên Ðất Mẹ (với trường ca Con Ðường Cái Quan là bản nhạc chính).
Từ 1997, Phạm Duy muốn được kết thúc sự nghiệp của mình vào năm 2000 và sẽ hoàn tất vào lúc đó một nhạc phẩm lớn, mang cao vọng thăng hoa được con đường dân ca mà ông đã chọn từ khi mới nhập cuộc hát rong, hát dạo. Nhạc phẩm đó là MINH HỌA TRUYỆN KIỀU, hoàn tất năm 2010.
Nhạc sĩ Phạm Duy đã hồi hương năm 2005, và tạ thế tại Sài Gòn ngày 27 tháng 1 năm 2013, trong niềm tiếc thương vô hạn của những người yêu quý dòng nhạc Phạm Duy.