urodził się w Wenecji. Większość jego wczesnego dzieciństwa spędził w Vicenzy, gdzie jego rodzina przeniosła się, gdy miał dwa lata. Po śmierci matki, gdy miał 13 lat, przeniósł się wraz z ojcem i bratem do Wenecji. Carlo uczęszczał do Akademii Sztuk Pięknych, gdzie skupił się na studiach architektonicznych. Ukończył Akademię w Wenecji z tytułem profesora architektury, kształcił się u architekta Francesco Rinaldo. Scarpa poślubił siostrzenicę Rinalda, Nini Lazzari (Onorina Lazzari).
jednak Scarpa odmówił przystąpienia do egzaminu pro forma professional prowadzonego przez rząd włoski po ii wojnie światowej. w konsekwencji nie pozwolono mu praktykować architektury bez znajomości z architektem. Stąd ci, którzy z nim pracowali, jego klienci, współpracownicy, rzemieślnicy, nazywali go „profesorem”, a nie „architektem”.
jego architektura jest głęboko wyczulona na zmiany czasu, od pór roku do historii, zakorzeniona w zmysłowej materialnej wyobraźni. Był doradcą Mario Botty wraz z Giuseppe Mazzariolem; ten ostatni był dyrektorem Fondazione Querini Stampalia, gdy Scarpa zakończył remont i ogród dla tej instytucji. Scarpa uczył rysunku i Dekoracji Wnętrz Na „Istituto universitario di architettura di Venezia” od końca lat 40.aż do śmierci. Podczas gdy większość jego prac budowlanych znajduje się w Wenecji Euganejskiej, wykonywał projekty krajobrazów, ogrodów i budynków dla innych regionów Włoch, a także Kanady, Stanów Zjednoczonych, Arabii Saudyjskiej, Francji i Szwajcarii. Jego nazwisko ma 11 liter i jest to wielokrotnie używane w jego architekturze.
jeden z jego ostatnich projektów, willa Palazzetto w Monselicach, pozostawiona niekompletnie w chwili śmierci, została zmieniona w październiku 2006 roku przez Jego Syna Tobia. Praca ta jest jednym z najbardziej ambitnych projektów krajobrazowych i ogrodowych Scarpa, Brion Sanctuary. Został wykonany dla Aldo Businaro, przedstawiciela Cassiny, odpowiedzialnego za pierwszą podróż Scarpy do Japonii. Aldo Businaro zmarł w sierpniu 2006 roku, kilka miesięcy przed ukończeniem nowej klatki schodowej w Villa Palazzetto, zbudowanej dla uczczenia stulecia Scarpy.
w 1978 roku, podczas pobytu w Sendai w Japonii, Scarpa zmarł po upadku ze schodów betonowych. Przeżył dziesięć dni w szpitalu, zanim uległ obrażeniom spowodowanym upadkiem. Jest pochowany stojąc i owinięty w lniane prześcieradła w stylu średniowiecznego rycerza,w odizolowanym zewnętrznym rogu jego cmentarza Brion w kształcie litery L w San Vito D ’ Altivole w Wenecji.
w 1984 roku włoski kompozytor Luigi Nono zadedykował mu kompozycję na orkiestrę w mikro interwałach A Carlo Scarpa, Architetto, ai suoi Infiniti possibili.