Ngài cũng nhận ra rằng nếu chỉ thiền định an trụ tâm trong hư không vô biên, như các bậc thầy tu khổ hạnh đã dạy Ngài, sẽ không bao giờ chấm dứt khổ đau trong ba cõi Dục giới, Sắc giới và Vô Sắc giới. Vì vậy, Thái tử quyết tâm đi theo con đường Trung đạo của chính mình.

Thái tử Tất Đạt Đa xuất gia tu học với hai vị thầy Bà la môn theo đạo Hindu danh tiếng là A-ra-la-ca-lan (Alara Kalama) và Uất-đà-ka-la-ma-tử  (Udaka Ramaputta). Họ hướng dẫn Ngài quán chiếu về sự hư ảo của vạn pháp và thiền tĩnh trụ. Nhưng chỉ sau một thời gian rất ngắn, Thái tử đã nhận ra rằng những giáo lý này sẽ không thể chấm dứt được khổ đau của ba cõi Dục giới, Sắc giới, Vô Sắc giới. Vậy nên Thái tử đi đến khu rừng bên bờ sông Ni Liên Thiền (Neranja) và nhập vào nhóm năm tu sỹ khổ hạnh gồm Kiều Trần Như (Anjanata) , A Thuyết Thị (Ashvajit), Bà Sư Ba (Vaspa), Ma Ha Nam (Mahanama) và Bạt Đề (Badrika). Những người này về sau trở thành năm đại đệ tử đầu tiên của Đức Phật.

Đường tu khổ hạnh của Tôn giả Ma Ha Ca Diếp

Thời gian này, Thái tử nghiêm ngặt áp dụng phương pháp tu tập ép xác khổ hạnh, thiền định về trạng thái tỉnh giác rộng lớn như hư không. Kinh điển ghi lại rằng, trong hai năm đầu, Ngài gần như không ăn gì ngoài vài hạt mè; trong hai năm kế tiếp, Ngài chỉ uống nước, và hai năm cuối Đức Phật không hề dùng thực phẩm gì. Trong suốt thời kỳ khổ hạnh cực kỳ khắc nghiệt đó, thân thể Ngài trở nên gầy mòn, đen đúa như bộ xương khô, mọi người gọi Ngài là Hắc Mâu Ni. Ngài không hề dịch chuyển, chỉ ngồi thiền tĩnh lặng như một tảng đá, đến nỗi kiến còn làm tổ ngay dưới chỗ ngồi của Ngài. Trâu nước và tụi trẻ chăn trâu đều vô cùng ngạc nhiên khi thấy vị Hắc Mâu Ni kỳ quái này. Vài đứa nghịch ngợm còn đốt nóng que cời bằng sắt và đâm vào lỗ tai Ngài để trêu chọc.

Trong khi Ngài thiền định, chư thiên xuất hiện trên bầu trời và bạch với Bồ Tát Tất Đạt Đa rằng mẫu thân của Ngài đã tái sinh ở cung trời Đâu suất. Trong suốt sáu năm tu khổ hạnh, Bồ Tát Tất Đạt Đa chỉ mở lời một lần duy nhất, để khuyên nhủ chư thiên đừng buồn rầu lo lắng cho Ngài, vì Ngài sẽ sớm đạt thành Chính giác. Các chư thiên rất hoan hỷ khi được nghe những lời này và vội vàng quay trở về cõi thiên để báo tin với mẫu thân Ngài, Hoàng hậu Ma Da.

Đến cuối thời kỳ sáu năm thực hành miên mật, Bồ Tát tự hỏi vì sao mình nỗ lực hành đạo theo con đường cực đoan, bởi đạo khổ hạnh không hề cho thấy chút khả năng nào mang lại hỷ lạc hay trợ duyên giác ngộ. Do vậy, Ngài đã từ bỏ lối tu khổ hạnh và sự hành xác tới gần như kiệt quệ. Ngài cũng nhận ra rằng nếu chỉ thiền định an trụ tâm trong hư không vô biên, như các bậc thầy tu khổ hạnh đã dạy Ngài, sẽ không bao giờ chấm dứt khổ đau trong ba cõi. Vì vậy, Thái tử quyết tâm đi theo con đường Trung đạo của chính mình.