En los veranos de 1936 y 1937 fue asistente de Arturo Toscanini en el festival de Salzburgo, un encuentro que dejó una profunda impresión en el joven músico. Debutó como director en Budapest en 1939 con Las Bodas de Fígaro.

Siendo judío encaró una actividad profesional restringida así que decidió dejar Hungría en 1939 y pasar los años de la guerra en Suiza. Al no conseguir trabajar como director, retornó al piano y ganó el Concurso Internacional de Ginebra en 1942. Cuatro años después fue invitado por las autoridades militares americanas en Munich a dirigir Fidelio. Esto condujo a su nombramiento como director musical de la Opera Bávara en 1946. Estuvo en el cargo hasta 1952 formando el repertorio de post-guerra de la compañía y ganando reputación como director.

Solti realizó sus primeras grabaciones en 1947 acompañando como pianista a Kulenkampff en las sonatas para violín de Beethoven y dirigiendo a la Orquesta de la Tonhalle de Zurich. Después fue a grabar a Londres con la Filarmónica de esta ciudad y debutó con esta orquesta en la sala de conciertos en 1949. También comenzó a aparecer en otras ciudades europeas y sudamericanas, en 1951 condujo por primera vez en Salzburgo (Idomeneo de Mozart), y en 1952 se trasladó a Frankfurt como director musical tanto de los conciertos como de la Opera.

Solti apareció en el Festival de Edimburgo en 1952 y debutó en Norteamérica en la Opera de San Francisco en 1953. En 1954 apareció en Glyndebourne y en 1959 en el Covent Garden dirigiendo El Caballero de la Rosa. Esto condujo a su nombramiento como director musical del Covent Garden hasta 1971, llevando a este escenario a uno de sus mejores momentos. Sus logros incluyeron el estreno británico de Moisés y Aarón de Schoenberg, la primera producción en el Covent Garden de La Mujer sin Sombra de Strauss, el ciclo completo de El Anillo de los Nibelungos, así como presentaciones de Billy Budd y Sueño de una Noche de Verano.

Su labor en el Covent Garden fue reconocida con el título de KBE en 1971 y con el título de Sir tras tomar la nacionalidad británica un año después. Estando en el Covent Garden, Solti se convirtió en director musical de la Sinfónica de Chicago en 1969 y ocupó el mismo cargo en la Orquesta de París desde 1971. También fue consejero artístico de la Opera de París entre 1971 y 1973. Continuó apareciendo en Londres y otros centros como invitado, siendo nombrado director artístico y principal conductor de la Filarmónica de Londres en 1979. Solti permaneció frente a la Sinfónica de Chicago hasta 1991 y a la Filarmónica de Londres hasta 1983. Desde 1992 hasta 1994 fue director artístico del Festival de Pascua de Salzburgo.

Solti provocó gran impacto a través de sus numerosas grabaciones. Su colaboración en Salomé con John Culshaw como productor condujo a un desarrollo algo pionero en el uso de las técnicas estereofónicas para simular las dimensiones teatrales de la ópera, lo que alcanzó una culminación en su registro de El Anillo de los Nibelungos, el primero en ser editado completo en disco (1966). Solti también enriqueció el repertorio discográfico con otras obras de gran amplitud y naturaleza apasionada, como las sinfonías corales de Beethoven y de Mahler, o las sinfonías de Elgar. Su conocimiento de las posibilidades del disco y su talento musical condujeron a exitosas grabaciones que han sido reconocidas con numerosos premios europeos y americanos.