Son formaciones perfectamente válidas que simplemente continúan la serie trilogía, cuatrilogía/tetralogía, etc. La forma nonalogía se basa en el latín, mientras que la forma enealogía se basa en el griego (de modo similar a nonágono y eneágono, ambas correctas para el polígono de nueve lados). Que no esté en el diccionario de la RAE no significa que no se puedan usar ni que sean incorrectas.