La classification interne à la famille est problématique. Trois grandes études ont reconnues cinq tribus à répartition mondiale (A. Heimerl, 1934) ou six tribus rien qu'en Amérique du nord (P.C. Standley, 1918), ou encore huit tribus à répartition mondiale (J. Hutchinson, 1959). Environ la moitié des genres sont monospécifiques (G.H.M. Lawrence, 1951). Le genre
Mirabilis a été par le passé divisé en un grand nombre de genres, mais les auteurs modernes (A.L. Bogle, 1974) reviennent vers une vision plus inclusive du genre.
Classiquement, les Nyctaginaceae étaient considérées comme dérivant des
Phytolaccaceae (A. Cronquist 1981), ou d'un ancêtre commun (J. Rodman et al., 1984, et S. R. Downie et J. Palmer, 1994). Toutefois, des études morphologiques approfondies récentes, portant sur la morphologie pollinique (J. W. Nowicke, 1970, J. W. Nowicke et T. J. Luikart 1971), sur les tubes plastidiens (H.-D. Behnke, 1972), sur la nature anormale du bois secondaire (E. Balfour 1965) ou encore sur l'anatomie vasculaire du périanthe (A. D. Joshi et V. S. Rao, 1934), ont montré que la famille avait des caractères uniques assurant son indépendance.