Scarpa föddes i Venedig. Mycket av hans tidiga barndom spenderades i Vicenza, där hans familj flyttade när han var 2 år gammal. Efter sin mors död när han var 13 flyttade han med sin far och bror tillbaka till Venedig. Carlo deltog i Academy of Fine Arts där han fokuserade på arkitektoniska studier. Examen från Accademia i Venedig, med titeln Professor i arkitektur, lärde han sig med arkitekten Francesco Rinaldo. Scarpa gifte sig med Rinaldos systerdotter, Nini Lazzari (Onorina Lazzari).
Scarpa vägrade dock att delta i pro forma professional exam som administrerades av den italienska regeringen efter andra världskriget. som en konsekvens fick han inte utöva arkitektur utan att umgås med en arkitekt. Därför kallade de som arbetade med honom, hans klienter, medarbetare, hantverkare honom ”Professor” snarare än ”arkitekt”.
hans arkitektur är djupt känslig för tidens förändringar, från årstider till historia, rotad i en sinnlig materiell fantasi. Han var Mario Bottas avhandlingsrådgivare tillsammans med Giuseppe Mazzariol; den senare var chef för Fondazione Querini Stampalia när Scarpa slutförde sin renovering och trädgård för den institutionen. Scarpa undervisade i teckning och inredning på ”Istituto universitario di architettura di Venezia” från slutet av 1940-talet till sin död. Medan det mesta av hans byggda arbete ligger i Veneto, gjorde han mönster av landskap, trädgårdar och byggnader för andra regioner i Italien samt Kanada, USA, Saudiarabien, Frankrike och Schweiz. Hans namn har 11 bokstäver och detta används upprepade gånger i hans arkitektur.
ett av hans sista projekt, Villa Palazzetto i Monselice, lämnade ofullständigt vid tiden för hans död, ändrades i oktober 2006 av sin son Tobia. Detta arbete är ett av Scarpas mest ambitiösa landskaps-och trädgårdsprojekt, trots Brion Sanctuary. Det avrättades för Aldo Businaro, representanten för Cassina som är ansvarig för Scarpas första resa till Japan. Aldo Businaro dog i augusti 2006, några månader före färdigställandet av den nya trappan vid Villa Palazzetto, byggd för att fira Scarpas hundraårsjubileum.
1978, medan i Sendai, Japan, dog Scarpa efter att ha fallit ner en trappa av betong. Han överlevde i tio dagar på ett sjukhus innan han gav efter för skadorna på hans fall. Han är begravd stående och insvept i linnelakan i stil med en medeltida riddare, i ett isolerat yttre hörn av hans L-formade Brionkyrkogård vid San Vito d ’ Altivole i Veneto.
1984 tillägnade den italienska kompositören Luigi Nono honom kompositionen för orkester i mikrointervaller a Carlo Scarpa, Architetto, Ai suoi infiniti possibili.