Chùa Bà Già có một lai lịch khá cổ. Trước kia, chùa nằm trên địa phận làng Gạ (nay là làng Phú Thượng, phường Phú Thượng, quận Tây Hồ, Hà Nội), là nơi các vua nhà Trần định cư. Một bộ phận người Chăm được đưa từ phía Nam ra đã dựng một ngôi chùa mà sử Toàn thư phiên âm là Đa-da-li. Thái úy Trần Nhật Duật (1254-1330) thường tới đây đàm đạo về Phật giáo với vị sư người Chăm trụ trì. Có thể cái tên Bà Già là từ Đa-da-li mà ra. Nay trong chùa còn bức hoành phi cổ khắc ba chữ "Bà Già tự".

Ngoài bức hoành phi, quả chuông và tấm bia, ở chùa làng Phú Gia hiện còn lưu giữ 58 pho tượng tròn, trong đó có 46 pho tượng Chư Phật, La Hán, Đế Thích và Phạm Thiên, được tạo tác công phu theo nghệ thuật Lê – Nguyễn, sơn thiếp lộng lẫy. Đó là những di vật lịch sử quý, giúp cho hậu thế hiểu được lịch sử sâu xa của một làng quê và vẻ đẹp thiền tịnh của chùa Bà Già.

Năm 1996, chùa Bà Già được công nhận là Di tích lịch sử – Văn hóa quốc gia. Năm 2012, chùa đã được trùng tu và tôn tạo những vẫn giữ được nét đẹp truyền thống ngôi chùa cổ xứ Bắc.