Ngay cả trên bia mộ của mình ông chỉ cho khắc dòng chữ: Phạm khất sĩ chi mộ” (mộ của người ăn mày họ Phạm). Phạm Ngũ Thư là một người như vậy, một con người có cuộc đời đặc biệt như là huyền thoại.
Về sau uy danh của ông vẫn còn vang danh khắp Trung Quốc, Âu Lạc và cả Hung Nô. Vì khâm phục tài năng của ông Triệu Xương đã cho xây dựng đền thờ ông và thờ cúng quanh năm. Danh tướng Cao Biền đã cho sửa sang lại đền thờ, tạc tượng gỗ, tôn xưng cho ông danh hiệu cao quý là Lý hiệu úy.
