Qua Hòn Trúc tới Cổ Cốt, Chúa Nguyễn sai Võ Di Nguy, Phạm Văn Nhân đưa Vương mẫu và Vương phi vào ở trong đảo Phú Quốc. Ngài cùng các tướng cưỡi thuyền vào thẳng Hà Tiên.
Nghe tin Chúa Nguyễn đã về, Hà Hí Văn, một tay giặc Tầu, có chân trong Bạch Liên Giáo, đã gặp Chúa Nguyễn ở Xiêm đem ít binh thuyền theo giúp.
Khi thuyền Chúa Nguyễn tiến đến Long Xuyên; Nguyễn Văn Trương đại tướng Tây Sơn giữ mặt Long Xuyên sai người đưa tin xin hàng. Theo Trương, có đến ba trăm tinh binh và mười lăm chiến thuyền.
Bước đầu, gặp được nhiều sự may mắn, Chúa Nguyễn đốc quân vào thẳng cửa biển Cần Giờ.
Hồi ấy, Nguyễn Nhạc, Nguyễn Huệ đương chú ý về công việc mặt Bắc, hùng binh, mãnh tướng đều rút về rừng Thuận Hóa, Qui Nhơn, binh lực của Nguyễn Lữ ở Gia Định không được cường thịnh như trước.
Thừa thế, tướng cũ họ Nguyễn đã nổi lên đánh phá nhiều nơi. Khi binh thuyền Chúa Nguyễn đến Cần Giờ, các tướng ấy lần lượt đem quân lại họp, oai danh quân Nguyễn bây giờ lại lừng lẫy.
Nguyễn Lữ được tin phi báo, phải đem quân lui ra Gò Lạng, giao Thái bảo Phạm Văn Tham ở lại giữ đất Saigon.
Chúa Nguyễn dẫn quân lên đánh Saigon, bị thua dữ, lại phải chạy về Thổ Châu.
Sau đó, Lê Văn Quân hạ được đồn Ba Lầy, Hồ Văn Lân lấy được miền Rạch Chênh, rồi Võ tánh lại đem hơn một vạn quân về giúp, tướng sĩ Tây Sơn luôn luôn có người đầu hàng, binh lực Chúa Nguyễn lại mỗi ngày mỗi mạnh. Qua năm mậu thân (1788), quân Nguyễn lấy được Sài Gòn, Thái bảo Phạm phải chạy về xứ Ba Thắc, gần hết một cõi Gia Định đều thuộc về tay Chúa Nguyễn.
Sau khi đã cho người ra đảo Phú Quốc đón cung quyến vào Gia Định, Chúa Nguyễn sai các tướng tá mỗi người phòng thủ mỗi nơi. Ngài thì đóng luôn ở đất Sài Gòn, lo việc chỉnh đốn quân bị.
Hồi này quân Tây vẫn bận rộn về công việc ngoài Bắc.
Từ khi Nguyễn Hữu Chỉnh ở Bắc chuyên quyền làm bậy, bị Nguyễn Huệ sai quân bắt giết, vua Chiêu Thống liền chạy sang Tầu cầu cứu với vua Thanh. Đến cuối năm ấy, Tôn Sĩ Nghị và Sầm Nghi Đống theo mạng vua Thanh, đem quân bốn tỉnh Quảng Đông, Quảng Tây, Vân Nam, Quí Châu, do vua Chiêu Thống đưa đường sang chiếm mất thành Thăng Long và đóng ở đó.
Nguyễn Huệ ở Qui Nhơn tiếp được tin ấy, tức thì tự làm hoàng đế, rồi tiến quân ra thẳng Thăng Long.
Đầu năm sau (1789), Nguyễn Huệ chém Sầm Nghi Đống, phá tan quân Thanh, đuổi Tôn Sỹ Nghị về Tầy.
Tuy rằng sau đó, Huệ lại dẫn quân về Phú Xuân, giao đất Bắc Thành cho con trai là Nguyễn Quang Thùy và Tư khấu Võ Văn Dũng coi giữ, nhưng dư đảng họ Lê họ Trịnh vẫn còn ngấm ngầm vận động. Thời cục Bắc Hà vẫn buộc Huệ phải luôn luôn để mắt không đủ thì giờ ngó đến miền Nam.
Nhở vậy, Chúa Nguyễn ở Gia Định, tha hồ sửa sang mọi việc.
Ngoài những việc cất cung điện, xây mồ mả, đắp thành quách các nơi. Ngài vẫn hết sức mộ thêm quân lính, đóng thêm chiến thuyền, đặt đủ các hạng quan chức.
Những tay đại tướng như Tôn Thất Hội, Võ Tánh, Nguyễn Văn Thành, Tống Viết Phúc,.. đều được giữ chức quan trọng. Bọn đó thường thường đem quân ra đánh quân Tây ở mặt Trấn Biên, và đều thắng trận luôn luôn. Mấy người đó rất được Chúa Nguyễn tin dùng, Ngài phong Tôn Thất Hội làm Đốc chiến Chưởng kỵ dinh Hậu quân, Võ Tánh làm Chưởng cơ dinh Tiên phong, Nguyễn Văn Thành làm Tỗng nhung cai cơ dinh Trung quân, Tống Viết Phúc làm Tuyển phong vệ úy đạo quân Thần Sách.
Duyệt vẫn lẹt đẹt ở ngôi Cai đội, quanh quẩn với tên quân Thuộc nội.
Một bữa, nhân lúc vô sự, Duyệt cùng vài viên Thái giám ôn lại những cuộc chiến tranh và bàn luận sự hay hèn của các đại tướng. Bọn Thái giám tranh nhau khen Nguyễn Văn Thành và Tống Viết Phúc là bực đủ cả trí dũng, các tướng không có ai bằng. Duyệt có ý tức, cau mày bẻ lại:
– Cứ trong con mắt của ta, hai người ấy chưa phải là bực danh tướng. Tống Viết Phúc có dũng mà không có mưu, Nguyễn Văn Thành có mưu mà không có dũng, danh tướng đâu có như vậy? Ta coi các đại tướng ngày nay, chỉ có Tôn Thất Hội đủ cà trí dũng, thật đáng là bực lương tướng. Nếu ta được làm đại tướng, quyết không chịu thua ông ấy.
Rồi duyệt cao hứng nói hoài về việc dùng binh ra trận. Thình lình Chúa đi qua nghe được, Ngài khoan thai hỏi Duyệt:
– Ngươi có thể cầm quân được chăng?
Duyệt nói một cách quả quyết:
– Thưa, được!
Chúa Nguyễn mỉm cười:
– Ngươi có thể làm tướng được chăng?
Duyệt không ngần ngừ và đáp luôn:
– Thưa được!
– Việc binh là việc lớn, sao ngươi dám nói dễ dàng làm vậy?
– Thưa, quân Tây Sơn đều là kẻ vô đạo, chẳng bao lâu nữa tự nó sẽ phải diệt vong. Dùng quân nhơn từ của ta, mà đánh quân tàn bạo của giặc, thế đó giống như chẻ tre vậy, tôi thật không thấy có chi là khó.
Chúa Nguyễn tỏ ý khen ngợi.
Vừa gặp lúc đó Chúa Nguyễn có lệnh cho phép các tướng được mộ quân riêng, Duyệt bèn xin phép về các thôn xóm dân quê, chiêu dụ lấy người ra lính.
Chẳng bao lâu, Duyệt mộ được năm trăm người, bèn xin lập riêng một “vệ” kêu là vệ Diệu Võ, Chúa Nguyễn ưng ý, cho Diệu Võ vệ được thuộc vào Thần Sách quân.
Đạo quân Thần Sách gồm có năm đồn; Tiền, Hậu, Tả, Hữu và Trung. Mỗi đồn khoảng ba nghìn quân, chia làm năm vệ. Mỗi vệ có một tên riêng, Diệu Võ vệ của Duyệt với bốn vệ Tuyển Phong Hữu, Dương Võ, Định Võ, Toàn Võ đều thuộc Tả đồn, do Tôn Thất Huy thống đốc.
Từ đó, Duyệt được xa hẳn nội đình, chuyên việc luyện tập quân lính.
Trong vài tháng, Diệu Võ vệ đã trở nên một toán quân tất hùng dũng và có kỷ luật.
Bấy giờ Chúa Nguyễn thấy quân Tây còn thạnh, chưa muốn tiến quân ra đánh. Vả lại, đất Gia Định mới lấy lại được, các việc đương bắt đầu mở mang, Ngài phải để hết thì giờ vào những chuyện cắt đặt quan lại, tướng tá, sắm sửa khí giới binh thuyền, ít khi tính đến việc tranh thành cướp đất. Vì vậy trong mấy năm trời, Duyệt chỉ đóng ở vùng Gia Định.
Qua năm nhâm tý (1792), vua Quang Trung bị bệnh qua đời, con trai là Nguyễn Quang Toản nối ngôi hoàng đế, dùng Bùi Đắc Tuyên làm Nhiếp chánh Thái sư.
Tuyên không có tài mà muốn chuyên quyền, bao nhiêu việc nước đều đem bàn ở nhà riêng, Quang Toản không được dự biết, tướng sỹ thấy vậy, hết thảy căm giận, chán nản.
Thế lực Tây Sơn mỗi ngày một suy.
Các tướng Gia Định nghe những tin ấy, ai nấy đều khuyên Chúa Nguyễn kéo quân ra đánh.
Bấy giờ Bá Đa Lộc đã đưa Vương tử Cảnh ở Phú Lang Sa về từ lâu rồi.
Tháng ba năm quí sửu (1793) lập Cảnh làm Đông My, phong làm Nguyên soái, giao cho lãnh dinh Tả quân, cùng mấy viên văn quan võ tướng đóng giữ Gia Định. Rồi, Chúa Nguyễn sai Tôn Thất Hội điều khiển các đạo bị binh, phong Võ Tánh làm Tham thặng Bình Tây Đại tướng, Nguyễn Văn Thành làm Khâm sai Bình Tây Tiền tướng quân, định ngày ra đánh Qui Nhơn. (Kinh đô vua Tây Sơn).
Đại quân chia làm hai cánh; Tôn Thất Hội và Nguyễn Văn Thành, Nguyễn Hoàng Đức dẫn quân đi đường bộ, Duyệt và Võ Tánh, Nguyễn Văn Trương, Võ Văn Lượng đều theo Chúa Nguyễn xuống đi đường thủy.
Tháng năm năm ấy, bộ quân kéo đến Phú An, chiếm được đồn La Hai của Hồ Văn Điềm (Đô đốc Tây Sơn), sau một trận đánh nhau ở sông La Hai.
Lúc ấy thủy quân đã phá được đồn Diên Khánh, lấy được dinh Bình Khang. Chúa Nguyễn tự đốc binh thuyền tiến vào cửa biển Thi Nại.
Sau khi thủy quân đã đánh được cầu Tân Hội và chợ Vân Sơn, thì bộ quân đã ra đến miền Túc Dã và đóng ở đó.
Vau Tây Sơn tiếp được tin báo, liền sai Thái tử Nguyễn Bảo cùng các đại tướng chia quân phòng triệt hai nơi Kỳ Sơn và úc Sơn, làm cho quân Nguyễn mặt thủy, mặt bộ không thể giao tiếp với nhau.
Chúa Nguyễn một mặt giục Tôn Thất Hội, Nguyễn Văn Thành đánh gấp vào đồn Kỳ Sơn, một mặt sai Duyệt làm tiên phong, Võ Văn Lượng làm hậu ứng, cùng đánh lên đồ Úc Sơn.
Trời mới sáng rõ Duyệt đem toán quân Diệu Võ tiến thẳng đến trước Úc Sơn. Thủ tướng Úc Sơn là Đô đốc Hổ hết sức đốc quân chống cự.
Theo với những tiếng đại bác dữ dội, súng đạn tự trên sườn núi bắn xuống đùng đùng, đồng thời những tảng đá lớn, những khúc cây ngắn cũng lông lốc lăn xuống chân núi.
Với lá cờ múa rối trong tay, Duyệt hăng hái thúc quân xông thẳng lên núi.
Đằng sau toán quân của Võ Văn Lượng cũng hò reo kéo lên trợ chiến.
Quân Tây kháng cự càng rát, trống thúc không dứt tiếng, súng nổ như pháo ran.
Quân Nguyễn chết hại tuy nhiều, Duyệt và Lương vẫn liều mạng hô quân cứ tiến.
Quá trưa, trên núi hết cà thuốc đạn, Đô đốc Hổ dẫn quân ùa xuống đánh bộ.
Lúc ấy Duyệt và Lượng lại càng hăng tợn. Hai người ra sức đốc quân xông lên chém la, chém liệt như phát cỏ bờ.
Hỗn chiến chừng hơn hai giờ, quân tây ít quá, không thể địch lại quân Nguyễn, Đô đốc Hổ bỏ đồn Úc Sơn, đem quân tháo lui.
Quân Nguyễn bắt được rất nhiều khí giới.
Duyệt và Lượng kéo quân lên đóng ở đồn úc Sơn, rồi cho người đến Chúa Nguyễn báo tin thắng trận.
Khi ấy Tư khấu Võ Văn Dũng giữ đồn Kỳ Sơn, nghe tin Úc Sơn thất thủ, biết rằng Kỳ Sơn không thể giữ nổi, cũng phải bỏ đồn mà chạy.
Tôn Thất Hội chiếm đồn Kỳ Sơn rồi tiến quân đến núi Tam Tháp.
Nguyễn Bảo phải lui vào giữ thành Qui Nhơn, và sai Đô đốc Đẩu đem quân đóng ở Khố Sơn, chống nhau với quân Nguyễn.
Bây giờ bên Nguyễn mặt thủy mặt bộ tuy đã thông nhau, nhưng vì Khố Sơn chặn ngang đường đi. Quân Tây ở trên bắn xuống như mưa, quân Nguyễn không thể nào tiến được.
Theo lệnh Chúa Nguyễn, Duyệt và Nguyễn Đức Xuyên, Nguyễn Văn Trương đều dẫn quân đến đánh Khố Sơn.
Đối với Qui Nhơn, Khố Sơn, là một nơi rất trọng yếu, trong đồn súng nhiều, đạn nhiều, quân sĩ nhiều, thành lũy cực kỳ vững chắc. Quân Nguyễn xông qua lúc nào, quân Tây vẫn dư sức mà đưa những viên đạn đại bác, thần công xuống luôn lúc ấy.
Giao chiến liền ba ngày, quân Nguyễn vẫn không thể vượt qua trước đồn.
Duyệt và hai tướng vẫn lăn xả vào đánh.
Trong lúc súng nổ kịch liệt, Nguyễn Đức Xuyên đứng ra trước trận, kêu mấy tên quân ở vỉa đồn và nói thật lớn như vầy:
– Chúng bay giữ cái đồn này làm chi? Ngày nay quân nhà Chúa đã lấy được cầu Tân Hội, kéo đến núi Tam Tháp, vua Tây Sơn nhà chúng bay thế cùng đã phải rút vào trong thành. Đại binh nhà Chúa đương vây Qui Nhơn kín cả bốn bề, chẳng bao lâu nữa, thành ấy sẽ bị đánh vỡ. Chúng bay liều chết giữ cái đồn này cho Đô đốc Đẩu, để sau này mua lấy một trận “làm cỏ” phải không?
Đám quân cửa đồn nghe nói thôi không bắn nữa.
Duyệt và Nguyễn Văn Chương thừa thế đốc quân sấn lên, trong đồn rối loạn, quân Tây mở toang cửa lũy xin hàng.
Đô đốc Đẩu chạy ra cửa sau trốn thoát.
Quân Nguyễn chiếm Khố Sơn rồi, Duyệt và các tướng đều dẫn quân bản hộ theo Tôn Thất Hội, Võ tánh chia đạo vây thành Qui Nhơn.
Trong thành vua Thái Đức (Nguyễn Nhạc) và các văn võ đốc quân cố chết chống giữ.
Quân Nguyễn đánh mấy chục ngày không vỡ.
Đến cuối tháng sáu, bỗng có mấy toán lục tực tự mạn Phú Xuân kéo ra, và một đám chiến thuyền bộ quân ở ngoài biển vào.
Vua Cảnh Thạnh (Nguyễn Quang Toản) được tin báo cấp của Vua Thái Đức sai bọn Thái úy Phạm Công Hưởng hộ giá. Nguyễn Văn Huấn, Tư Lê, Lê Trung và Tư Mã Ngô Văn Sơ và đại thống lĩnh Đặng Văn Chân đem quân thủy bộ ra đánh giải vây.
Thấy Qui Nhơn đã có cứu binh, Chúa Nguyễn hạ le65ng rút quân về dinh Diêm Khánh, giao Tôn Thất Hội ở al5i giữ phủ Phú An.
Vì có công lao trận này, Duyệt được thăng chức Thuộc nội Vệ úy nhưng vẫn coi vệ Diệu Võ.