Margolis est né à Philadelphie, en Pennsylvanie, fils de Fanya (née Fried) et d'Isidore Margolis. Il vient d'une famille d'immigrants juifs d'Europe. Il a fréquenté Temple University brièvement avant de déménager à New York, où il a étudié le théâtre avec Stella Adler et à l'Actors Studio. Il est connu pour ses rôles de soutien dans Scarface (1983) et les films de Darren Aronofsky : π (1998), Requiem pour un rêve (2000), The Fountain (2006), The Wrestler (2008), Black Swan (2010) et Noah (2014). En 1991, Margolis a joué Helmut Dieter dans le feuilleton Santa Barbara. Il a eu des rôles récurrents sur de nombreuses autres séries télévisées, dont The Equalizer, Quantum Leap, Oz, Law & Order, Crossing Jordanie, Californication, Breaking Bad et Better Call Saul. En janvier 2015, il a représenté Felix Faust dans l' épisode "Quid Pro Quo" de Constantine. Pour son rôle dans Breaking Bad et Better Call Saul, Margolis a reçu une nomination pour un Primetime Emmy Award pour un acteur invité exceptionnel dans une série dramatique. Margolis est aussi un acteur de théâtre. Dans la saison 2014 du Berkeley Repertory Theatre, il apparaît comme Gus dans le Guide du capitalisme et du socialisme de Tony Kushner, The Intelligent Homosexual, avec une clé des Écritures .
Scarface
1983
Rôle : Shadow
Black Swan
2010
Rôle : Mr. Fithian / Patron
Ace Ventura, détective chiens et chats
1994
Rôle : Mr. Shickadance
Glory
1989
Rôle : 10th Connecticut Soldier
Requiem for a Dream
2000
Rôle : Mr. Rabinowitz
Stay
2005
Rôle : Bookstore Owner
La Fin des temps
1999
Rôle : Pope
Memories of Manon
1989
Rôle : Jimmy
Gone Baby Gone
2007
Rôle : Leon Trett
Noé
2014
Rôle : Magog (voice)
Les Immortels
2011
Rôle : The New Priest (uncredited)
Daredevil
2003
Rôle : Fallon (uncredited)
Hardball
2001
Rôle : Fink
The Fountain
2006
Rôle : Father Avila
Le Prince de Greenwich Village
2004
Rôle : Mr. Pappass
Thomas Crown
1999
Rôle : Heinrich Knutzhorn
The Girl Next Door
2007
Rôle : Homeless Man Hit By Car
Making of Better Call Saul: Finale
2022
Rôle : Self
Infested
2002
Rôle : Father Morning
Les Insurgés
2008
Rôle : Jewish Elder
Bridget
2002
Rôle : Slim
One Fall
2016
Rôle : Walter Grigg Sr.
1492 : Christophe Colomb
1992
Rôle : Bobadilla
Le porteur de cercueil
1996
Rôle : Philip DeMarco
Soul Food
2020
Rôle : Benjamin
Cotton Club
1984
Rôle : Charlie Workman (uncredited)
Faux témoin
1987
Rôle : Man in Phone Booth
Umney's Last Case
2006
Rôle : Vernon Klein
Pi
1998
Rôle : Sol Robeson
Particles of Truth
2003
Rôle : Grandpa Black
Carl(a)
2011
Rôle : Grandpa
The Wrestler
2008
Rôle : Lenny
Baja
2018
Rôle : Don Primo
Dinner Rush
2000
Rôle : Fitzgerald
Nasty Baby
2015
Rôle : Richard
The Abandoned
2015
Rôle : Jim
Camp Hollywood
2004
Rôle : Himself
Les Pleins Pouvoirs
1997
Rôle : Red
Minyan
2020
Rôle : Itzik
Pulsions
1980
Rôle : Patient at Bellvue Hospital (uncredited)
Almost Partners
1987
Rôle : Kristopholous
Descending Angel
1990
Rôle : Bercovici
Delta Force 2
1990
Rôle : Gen. Olmedo
Beneath
2013
Rôle : Mr. Parks
Lady Mobster
1988
Rôle : Peter Colicos
Mariage à la grecque 2
2016
Rôle : Panos
Jakob le menteur
1999
Rôle : Fajngold
Nobody
2009
Rôle : Professor Hagel
Above Freezing
1998
Rôle : Mob Boss
Arthur
1981
Rôle : Wedding Guest (uncredited)
Le Secret de mon succès
1987
Rôle : Maintenence Man
Les Derniers Affranchis
2012
Rôle : Claphands
Hannibal
2001
Rôle : Perfume Expert
2BPerfectlyHonest
2004
Rôle : Abrams
Short Eyes
1977
Rôle : Mr. Morrison
Northern Borders
2015
Rôle : Whiskeyjack
Headspace
2005
Rôle : Boris Pavlovsky
Boss of Bosses
2001
Rôle : Piney Armone
Darkside, les contes de la nuit noire
1990
Rôle : Gage (segment ‘Cat From Hell’)
Diner
1982
Rôle : Earl Mager
Personne n'est parfait(e)
1999
Rôle : Vinnie
Confession criminelle
1987
Rôle : Father Max
The Tailor of Panama
2001
Rôle : Rafi Domingo
The Specialist
2012
Rôle : Stitch
Mickey les yeux bleus
1999
Rôle : Gene Morgansen
Christmas Evil
1980
Rôle : Man #2
Squanto: A Warrior's Tale
1994
Rôle : Captain Hunt
Trouble on the Corner
1997
Rôle : Mr. Borofsky
Angela
2002
White Hot
1989
Rôle : The Tin Man
Le puits et le pendule
1991
Rôle : Mendoza
Le Prince des rivières
1993
Rôle : New York Money
Un flic aux trousses
1983
Rôle : 5:00 Bar Owner
18 Shades of Dust
1999
Fast Food Fast Women
2000
Rôle : Graham
You Bury Your Own
2015
Rôle : Smith
Valley of Bones
2017
Rôle : El Papa
Doubletake
1985
Rôle : Janitor
Madonna: The Video Collection 93:99
1999
Rôle : Bartender (segment "Bad Girl")
I Shot Andy Warhol
1996
Rôle : Louis Solanas
Going in Style
1979
Rôle : Prison Guard
Queenie in Love
2001
Rôle : Spencer
A Remarkable Life
2016
Rôle : Landon
Side Streets
1998
Rôle : Bartender
Every Last Secret
2022
Rôle : Grandpa
A Jury of Her Peers
1980
Rôle : Mr. Hale
Muggable Mary: Street Cop
1982
Rôle : Sgt. Meyers
Haber
2008
Rôle : Bremer
Inside The Fountain: Death and Rebirth
2007
Rôle : Himself
Pants on Fire
1998
Rôle : Malcolm Preston
L'initiation de Misty Beethoven
1976
Rôle : Unhappy Guy on Plane (uncredited)