Para solucionar este error sin tener que hacer downgrade de Oracle 11g a 10g sólo hay que añadirle un nombre de host al servidor ademas del típico “localhost”:

Y añadirle algo al final cómo:

Fuente: http://stackoverflow.com/questions/10484231/ora-24408-could-not-generate-unique-server-group-name