Tháng 7 -1 832, Lê Văn Duyệt chết. Vua MInh Mạng tổ chức lại cơ cấu hành chính mới ở phia Nam, nhằm tập trung quyền lực về Phú Xuân. Cấp thành Gia Định bị phế bỏ cùng với 5 trấn cũ, chia thành 6 tỉnh. Trấn Phiên An được đổi thành tỉnh Phiên An, thành Bát Quái nay là trụ ở (tỉnh lỵ) của tỉnh Phiên An. Đứng đầu cơ cấu hành chính các tỉnh mới có chức Tổng đốc, bên dưới là Tuần phủ, Bố Chánh, Án sát và Lãnh binh. Triều đình Huế tực tiếp nắm các tỉnh không thông qua Gia Định thành như trước nữa.
Tháng 8 – 1833 lại đổi tỉnh Phiên An ra tỉnh Gia Định và đây là thời kỳ vùng đất Nam Bộ được mênh danh là Nam Kỳ Lục Tỉnh. Thành Bát Quái nay cũng được mệnh danh là tỉnh thành Phiên An.
Sau khi Lê Văn Duyệt chết, cơ cấu hành chính Sài Gòn – Gia Định thay đổi, nhất là từ khi Minh Mạng bổ nhiệm các quan lại mới đã làm xáo trộn tình hình vùng này khá nhiều. Lê Văn Khôi, người tỉnh Cao Bằng, là thân tín và con nuôi của Lê Văn Duyệt, nhân sự bất mãn của một số quan quân trước những viên quan tham nhũng, tàn bạo mới được Minh Mạng cử vào cai quản Sài Gòn như Bạch Xuân Nguyên, Nguyễn Quế, … đã làm cuộc binh biến vào ngày 18-05-1833.
Lê Văn Khôi cùng quân lính xông vào dinh quan giết Bố Chánh Bạch Xuân Nguyên, giết Tổng đốc Quế. Quan quân dinh Án sát, Lãnh binh bỏ chạy. Lê Văn Khôi nhanh chóng chiếm được thành Bát Quái và mở rộng địa bàn ra nhiều tỉnh Nam Kỳ, đánh tan nhiều toán quân cứu vệ của triều đình từ phía Bắc vào.
Lê Văn Khôi tự xưng là Đại Nguyên Súy, tổ chức một triều đình cát cứ ở phía Nam, phân cho các người thân tín các chức quan văn võ. Cuộc khởi binh của Khôi nhanh chóng quy tụ được sự tham gia của nhiều tầng lớp, nhiều người ở các địa phương Nam Kỳ, một số quân của triều đình đồn trú phía Nam, dân di cư từ các vùng phía Bắc, phía miền Trung vào khai phá Nam bộ, người Hoa kiều, Minh Hương và cả người Khmer cùng một số giáo sĩ người Pháp, … Họ phần lớn là nông dân và binh lính bất mãn với những chính sách cai trị hà khắc của Minh Mạng đối với nhân dân phía Nam.
Chỉ trong một tháng mà sáu tỉnh Gia Định đã về tay Khôi. Triều đình Minh Mạng phái nhiều toán binh lính gồm bộ binh, thủy binh, tượng binh, … cùng nhiều tướng giỏi tiến đánh Lê Văn Khôi. Quân triều đình nhanh chóng đàn áp các đội quân của Khôi chiếm giữ các tỉnh thành Nam bộ. Lực lượng của Khôi rút về cố thủ ở Sài Gòn.
Tháng 8 – 1833, triều đình Huế cử Trương Minh Giản đem đại quân dự định đàn áp nhanh chóng cuộc khởi nghĩa của Lê Văn Khôi, vây chặt Sài Gòn. Quân của Trương Minh Giản đóng đồn ở bến Bình Đông (nay là khu vực Thanh Đa), một bộ phận khác tiến sâu hơn chiếm lĩnh vùng phía bắc cầu Cao Man (tức Cầu Bông), một cánh phía Tây Nam chiếm đóng vùng Tham Lương (nay thuộc quận Tân Bình), … Phố phường Sài Gòn trở thành bãi chiến trường đẫm máu giằng co giữa quân triều đình và quân khởi nghĩa.
Cuộc chiến ngày càng bất lợi cho Lê Văn Khôi, nghĩa binh vừa cố thủ trên từng đường phố, cuối cùng phải rút vào bên trong thành Bát Quái. Quan quân triều đình bao vây bốn mặt thành. Từ sông Bến Nghé đến cầu Cao Man có toán quân của triều đình dưới sự chỉ đạo của Trần Văn Năng. Từ phía cầu Quan (khu vực xưởng Sa Son) đến bãi Tập Trận (Hòa Hưng) có đội quân của Tống Phước Lượng. Đề phòng quân Khôi vượt thành trống thoát sang Campuchia, quân triều đình chặt đứt cầu Tây Hoa (nằm gần Bảy Hiền), …
Bên ngoài thành, quân triều đình đắp những ụ đất cao 7 mét đặt đại bác bắn vào thành. Để triều chỉnh đường đại bác, quân triều đình còn đắp những ụ cao hơn 13 mét đặt kính thiên lý (ống nhòm) quan sát nội tình bên trong thành. Minh Mạng dự tính khoảng 8 tháng sẽ dẹp xong cuộc khởi binh của Khôi nhưng cuộc chiến kéo dài nhiều năm. Quân triều đình ngày càng tăng cường áp lực, ngoài đại bác, họ còn dùng ống phu lửa, đạn trái phá, … bắn thẳng vào các cứ điểm phòng thủ trong thành. Trong lúc đó một số cánh quân khác áp sát chân thành đặt thuốc nổ, đào đường hào, … nhưng vẫn không sao hạ được thành.
Nhờ vào tường thành vững chắc, lương thực và vũ khí dự trữ bên trong thành khá dồi dào nên nghĩa binh Lê Văn Khôi cầm cự kéo dài cuộc chiến đấu (Lê Văn Khôi đau bịnh chết vào khoảng tháng 11 – 1833). Đến tháng 7 – 1833 dự trữ trong thành cạn dần, quân lính mỏi mệt, bên ngoài quân triều đình áp sát thành, đào vách thành đặt chất nổ tạo lối vào. Nghĩa binh Lê Văn Khôi tan rã, thành Phiên An bị hạ. Quân triều đình giết chết 1831 binh lính khởi nghĩa. Sau đó những xác chết của quân khởi nghĩa được đem chôn chung tại một nơi được gọi là ”mả ngụy”, nay ở khoảng ngã sáu công trường Dân Chủ.
Minh Mạng vốn có thù riêng với Lê Văn Duyệt nên sau khi cuộc khởi binh thất bại, đã lấy cớ phản nghịch của Lê Văn Khôi là con nuôi Lê Văn Duyệt để trị tội Duyệt. Minh Mạng ra lệnh xiềng mộ Lê Văn Duyệt và dựng bia đá khắc câu ”quyền yếm Lê Văn Duyệt phục pháp xử”. Hình phạt này kéo dài mãi đến năm 1848 Lê Văn Duyệt mới được Tự Đức phục hồi danh dự.