Leopold Damrosch, care fusese concertmaestru al lui Franz Liszt la Weimar, a fost dirijorul orchestrei în sezonul 1876-1877. Dar publicul nu l-a apreciat, așa că și-a înființat propria orchestră: Symphony Society of New York. Când a murit în 1885, fiul său Walter Johannes Damrosch, în vârstă de 23 de ani, a preluat conducerea și a continuat competiția cu vechea Filarmonică. Walter a fost cel care avea să-l facă pe bogatul scoțian Andrew Carnegie să realizeze că New York-ul avea nevoie de o sală de concerte foarte bună, iar la 5 mai 1891, atât Walter, cât și compozitorul rus Ceaikovski au dirijat la primul concert al noului Music Hall al orașului. Câțiva ani mai târziu, această nouă sală a fost redenumită Carnegie Hall, după numele celui care a dat banii pentru construirea ei.
Theodore Thomas a început să dirijeze Filarmonica în 1877 și a făcut din ea o orchestră foarte bună. În 1891, Thomas a părăsit New York pentru a fonda Orchestra Simfonică din Chicago.
Anton Seidl a condus orchestra până în 1898. Seidl lucrase ca asistent al lui Wagner și era renumit pentru dirijarea muzicii lui Wagner. El a interpretat în premieră Simfonia a IX-a "Din lumea nouă" de Antonín Dvořák. Mulți oameni au fost triști când Seidl a murit subit în 1898 din cauza unei intoxicații alimentare, la vârsta de 47 de ani. Douăsprezece mii de persoane au solicitat bilete la înmormântarea sa la Metropolitan Opera House, la intersecția străzilor 39 și Broadway, iar străzile au fost blocate de oameni și de trafic.