Scarpa syntyi Venetsiassa. Suuren osan varhaislapsuudestaan hän vietti Vicenzassa, jonne hänen perheensä muutti hänen ollessaan 2-vuotias. Äitinsä kuoltua 13-vuotiaana hän muutti isänsä ja veljensä kanssa takaisin Venetsiaan. Carlo opiskeli Kuvataideakatemiassa, jossa hän keskittyi arkkitehtiopintoihin. Hän valmistui Venetsian Accademiasta arkkitehtuurin professorin arvonimellä ja oli arkkitehti Francesco Rinaldon oppipoikana. Scarpa meni naimisiin rinaldon veljentyttären Nini Lazzarin (Onorina Lazzari) kanssa.
Scarpa kuitenkin kieltäytyi osallistumasta Italian hallituksen toisen maailmansodan jälkeen hallinnoimaan pro forma-ammattikokeeseen, minkä seurauksena hän ei saanut harjoittaa arkkitehtuuria ilman arkkitehdin seuraa. Siksi ne, jotka työskentelivät hänen kanssaan, hänen asiakkaansa, työtoverinsa, käsityöläiset, kutsuivat häntä ”professoriksi” eikä ”arkkitehdiksi”.
hänen arkkitehtuurinsa on syvästi herkkä ajan muutoksille, vuodenajoista historiaan, jonka juuret ovat aistillisessa materiaalisessa mielikuvituksessa. Hän oli Mario Bottan opinnäytetyön neuvonantaja yhdessä Giuseppe Mazzariolin kanssa; viimeksi mainittu toimi Fondazione Querini Stampalian johtajana, kun Scarpa sai valmiiksi kyseisen laitoksen kunnostuksen ja puutarhan. Scarpa opetti piirustusta ja sisustusta ”Istituto universitario di architettura di Veneziassa” 1940-luvun lopulta kuolemaansa saakka. Vaikka suurin osa hänen rakennetuista töistään sijaitsee Venetossa, hän suunnitteli maisemia, puutarhoja ja rakennuksia muille alueille Italiaan sekä Kanadaan, Yhdysvaltoihin, Saudi-Arabiaan, Ranskaan ja Sveitsiin. Hänen nimessään on 11 kirjainta ja Tätä käytetään toistuvasti hänen arkkitehtuurissaan.
yksi hänen viimeisistä projekteistaan, Villa Palazzetto Monselicessa, jäi keskeneräiseksi hänen kuollessaan, muutettiin lokakuussa 2006 hänen poikansa Tobian toimesta. Teos on yksi Scarpan kunnianhimoisimmista maisema-ja puutarhaprojekteista, Brionin pyhäköstä huolimatta. Se toteutettiin Aldo Businarolle, Cassinan edustajalle, joka on vastuussa Scarpan ensimmäisestä Japanin-matkasta. Aldo Businaro kuoli elokuussa 2006, muutama kuukausi ennen Scarpan satavuotisjuhlan kunniaksi rakennetun Villa Palazzetton uuden portaikon valmistumista.
vuonna 1978 ollessaan Sendaissa Japanissa Scarpa kuoli pudottuaan betoniportaissa. Hän selvisi kymmenen päivää sairaalassa ennen kuin menehtyi kaatumisvammoihinsa. Hänet on haudattu seisten ja pellavalakanoihin käärittynä keskiaikaisen ritarin tyyliin, L-muotoisen Brionin hautausmaan eristettyyn ulkokulmaan San Vito d ’ Altivolessa Venetossa.
vuonna 1984 italialainen säveltäjä Luigi Nono omisti hänelle sävellyksen orkesterille mikroin intervallein a Carlo Scarpa, Architetto, Ai suoi infiniti possibili.