29 Ekim 1899 yılında o tarihte Rusya İmparatorluğu'nun sınırları içinde bulunan, günümüzde artık Gürcistan'ın başkenti olan Tiflis kentinde dünyaya geldi. 19 yaşına geldiğinde oyuncu olmaya karar verdi. 500 kişi arasından seçilerek "Moskova Sanat Tiyatrosu Okulu" na kabul edildi. Burada okulun kurucusu ünlü yönetmen, Konstantin Stanislavski tarafından bir sahne oyuncusu olarak yetiştirildi. 1923 yılında bir tiyatro grubu ile geldiği ABD turnesinde gruptan ayrılıp New York'ta kaldı ve şansını Broadway'de denemeye karar verdi. 1930'ların başına kadar tiyatroda aktif bir şekilde çalıştıktan sonra Hollywood'a gitti. 1936 yılında Paramount'la sözleşme imzalayana kadar hep ufak tefek rollerde gözüktü. Adı bu filmlerin çoğunun tanıtım yazılarında bile geçmiyordu. Bu tarihten sonra şansı açıldı ve stüdyonun en gözde oyuncularından biri haline geldi. A türü filmlerde göz dolduran yan rollerde oynarken, The Great Gambini (1937), King of Chinatown (1938) gibi B türü filmlerde başrollerde bile yer aldı. Kaba sert görünümlü ilginç tipi ile daha çok kötü adam rollerini başarıyla canlandırdı. Kısa boyu, derinden gelen kısık bariton sesi ve özellikle de Rus aksanlı İngilizcesi başka milletlerden kötü adamları oynamak için biçilmiş kaftandı. Cecil B. DeMille ve Preston Sturges gibi birçok ünlü yönetmenin vazgeçilmez karakter oyuncusuydu. The General Died at Dawn (1936) ve Çanlar Kimin İçin Çalıyor (For Whom the Bell Tolls) (1943) filmlerindeki rolleri ile iki kez En İyi Yardımcı Erkek Oyuncu Akademi Ödülü'ne aday gösterildi. Bunlardan ikincisi için Altın Küre ödülünü kazandı. 1950'lerde Orson Welles'e angaje oldu ve Welles'in çektiği Mr. Arkadin (1955), Touch of Evil (1958), ve Dava (Le Procès) (1962) filmlerinde oynadı. Ayrıca Welles'in asla bitiremediği Don Quixote filminde Sancho Panza rolündeydi ve 20 yıl boyunca filmin bitirilmesini beklerken projeden hiç ayrılmadı. Konusu İstanbul'da geçen Topkapi (1964) ve bir Vittorio De Sica filmi Sevimli Mahkum (After the Fox) (1966) gibi filmlerde unutulmaz kompozisyonlar çizdi. 1942 yapımı Victor Fleming filmi Tortilla Flat 'te hem rol adı hem de "Ay, Ay, Paisano!" adlı parçayı seslendirdi. 17 Eylül 1972'de California Palm Springs'de kanser nedeniyle hayatını kaybetti. 72 yaşındaydı