Sandpaper will do it. A nice medium grit, and I prefer the open-weave sort you use for wallboard work. When you get the tarnish off, just use finer and finer grits and finish up with a nice emery powder -- if you're really anal you can finish up with powder-type toothpaste and it'll look bright and shiny as new.

You'll be exhausted, and I wouldn't want a root canal or anything from you for about a month after, but by golly that brass rail will look good.

As we used to sing (hey, it's a music thread now!):

    1. Versabar iuvenis ego
       procuratoris in domo;
       verrebam muros et solum,
       osti poliebam capulum,
       poliebam plane capulum -
       et nunc praefectus classis sum.

Chorus:        Osti capulum poliebat, et
        praefectus classis nunc floret.

    2. Iuvabam meum dominum,
       factusque scriba sum demum;
       scribebam semper, et meus
       impiger erat calamus:
       tum tractabam semper calamum,
       et nunc praefectus classis sum.

Chorus:        suum calamum tractabat et
        praefectus classis nunc floret.
                                                                
    3. Sed me beatum denique
       coactorem creavere;
       et debita ego sedulus
       exigebam debitoribus;
       exigebam semper debitum,
       et nunc praefectus classis sum.

Chorus:        Debitum semper exegit, et
        praefectus classis nunc floret.

    4. Crescebam faciebamque rem,
       tribunus factus ad finem,
       dicebam coram populo
       fatuitates in foro;
       delectabamque sic populum
       et nunc praefectus classis sum.

Chorus:        Delectabat ita populum, et
        praefectus classis nunc floret.

    5. Nunc age, amice, si cupis
       fieri dominus maris,
       monente me, mane domi,
       mane semper procul a mari;
       numquam conspexi ego fluctum,
       sed nunc praefectus classis sum.

Chorus:        Fluctum numquam conspexit, et
        praefectus classis nunc floret.