La única locución que se recoge en el Diccionario académico y en los diccionarios de uso consultados (Clave, Diccionario del español actual, General de Vox y María Moliner) es en redondo, que significa ‘claramente, categóricamente’, es decir, rotundamente. Por tanto, la expresión adecuada es negarse en redondo o negarse rotundamente; negarse en rotundo resulta del cruce de estas dos.