Uma ótima dica é organizá-los da seguinte maneira:
Ordem alfabética do artista > Ordem de lançamento
Não separe por gêneros, pois há muitos artistas que não se enquadram em gênero algum, ou em vários. Se quiser fazer alguma identificação mesmo assim, compre etiquetas coloridas e cole-as na lateral da capa plástica. Uma sugestão de cores para as etiquetas:
Azul: rock nacional
Verde: pop
Amarelo: mpb
Vermelho: trilhas sonoras
Branco: new age
Preto: rock internacional
Rosa: música clássica
Crie suas próprias classificações para ser um método que definitivamente funcione para você. Se não estiver a fim de ser criativa(o), verifique as categorias de sites que vendem CDs, como o Submarino ou o Amazon.
Deixe a ordem alfabética dos artistas pelo seu sobrenome, aderindo à classificação padrão mais fácil. Ou você prefere deixar CDs do David Bowie em David? Com bandas, esse probleminha não existe.
Atualização em 19/10/15: Há novas maneiras de organizar CDs que podem ser ideias para você. Uma delas é digitalizar todos os seus CDs e reciclá-los. Você pode armazenar suas músicas em um programa como o iTunes ou guardá-las em um HD externo. Outra alternativa é se desfazer das capas de plástico volumosas e guardar seus CDs em pastas ou caixas organizadoras especÃficas para CDs, que são vendidas em lojas como a Kalunga. Se você tiver problemas de espaço, ambas as soluções podem valer a pena!