Về nguồn gốc của tên gọi Chợ Mới, tương truyền rằng ngày xưa có ngôi chợ cũ tên Phó Định Bài nằm ở bên kia bến đò Kiến An. Về sau, một ngôi chợ khá bề thế được xây dựng tại huyện lỵ ngày nay và được người dân gọi là “Chợ Mới”. Khi chúa Nguyễn thiết lập chính quyền ở Gia Định (1698), ngay hai bên bờ sông Tiền, sông Hậu của huyện Chợ Mới đã có người Việt rải rác sinh sống. Năm 1805 vùng đất Chợ Mới thuộc Vĩnh Trấn, năm 1808 Vĩnh Trấn đổi lại thành Vĩnh Thanh, Chợ Mới thuộc huyện Vĩnh An của trấn Vĩnh An.
Đến năm 1832, Chợ Mới ngày nay thuộc huyện Đông Xuyên và một phần huyện Vĩnh An. Năm 1907, Quận Chợ Mới được thành lập đặt bên bến đò Kiến An, sau dời về làng Long Điền (tức thị trấn Chợ Mới ngày nay).
Năm 1917, quận lỵ Chợ Mới thuộc tỉnh Long Xuyên. Từ năm 1957 đến năm 1975, quận Chợ Mới thuộc tỉnh An Giang, quận lỵ đặt tại xã Long Điền, địa giới này được duy trì cho đến năm 1975, kể cả khi An Giang tách thành hai tỉnh An Giang và Châu Đốc vào năm 1964.
Về phía chính quyền cách mạng thì năm 1945 Chợ Mới thuộc tỉnh Long Xuyên, đến năm 1948 thuộc tỉnh Long Châu Tiền, năm 1951 thuộc tỉnh Long Châu Sa. Giữa năm 1957 đến 1965, Chợ Mới thuộc tỉnh An Giang, đến tháng 2năm 1965, quận Chợ Mới thuộc tỉnh Kiến Phong, từ tháng 6 năm 1974 đến tháng 12 năm 1976 Chợ Mới thuộc tỉnh Sa Đéc. Sau ngày giải phóng Miền Nam, tháng 2 năm 1976 Chợ Mới trở về thuộc tỉnh An Giang với 12 xã, 1 thị trấn.
Huyện Chợ Mới – An Giang