La forma recomendada por la Real Academia es Nueva Deli, sin hache. Así figura, por ejemplo, en la lista de países y capitales de la Ortografía de la lengua española de 2010. 

No obstante y como reconoce el Diccionario panhispánico de dudas (2005), la grafía Nueva Delhi está muy asentada en español y no puede considerarse censurable.