Es adecuado emplearlo con los dos géneros: para hacer referencia al puerto es masculino, pero se puede usar en masculino o en femenino cuando se refiere al lápiz de memoria, que también se llama memoria USB, como se recoge en el Diccionario de la lengua española.

Tiene más información en pen drive, alternativas en español.