King a commencé son travail professionnel en tant que musicien avec un groupe appelé the Groove Boys à Osceola, Arkansas. Pendant ce temps, il a été exposé au travail de nombreux artistes du Delta blues, dont Elmore James et Robert Nighthawk.
En 1953, il déménage au nord de Gary, dans l’Indiana, où il joue brièvement de la batterie dans le groupe de Jimmy Reed et sur plusieurs des premiers enregistrements de Reed. À Gary, il enregistre son premier single (« Bad Luck Blues » accompagné de « Be On Your Merry Way »), pour Parrot Records. Le disque s’est vendu à quelques exemplaires, mais n’a eu aucun impact significatif et Parrot n’a demandé aucun enregistrement de suivi ni signé de contrat à long terme avec King. En 1954, il retourne à Osceola et rejoint les Groove Boys pendant deux ans.
En 1956, il s’installe à Brooklyn, dans l’Illinois, juste en face de St. Louis, et forme un nouveau groupe. Il est devenu une attraction populaire autour de la scène des boîtes de nuit de Saint-Louis aux côtés des Kings of Rhythm d’Ike Turner et de Chuck Berry. Il signe au label Bobbin de Little Milton en 1959, publiant quelques singles, mais aucun d’entre eux n’est enregistré. Cependant, il a attiré l’attention de King Records qui a sorti le single « Don’t Throw Your Love on Me So Strong » en novembre 1961. L’enregistrement met en vedette le musicien Ike Turner au piano et devient le premier succès de King ; atteignant la 14e place du classement Billboard R&B. La chanson a été incluse sur son premier album The Big Blues en 1962. King quitte Bobbin à la fin de 1962 et enregistre une session pour King Records. En 1963, il signe avec le label Coun-Tree de l’artiste de jazz Leo Gooden et enregistre deux disques pour eux, mais ceux-ci ne parviennent pas à se classer.
Sans perspectives de carrière apparentes autres que de parcourir le circuit des clubs du Sud et du Midwest, King s’installe à Memphis, où il signe avec le label Stax. Produit par Al Jackson Jr., King avec Booker T. & le MGs a enregistré des dizaines de parties influentes, telles que « Crosscut Saw » et « As the Years Go Passing By ». En 1967, Stax sort l’album Born Under a Bad Sign, une collection des singles King enregistrés chez Stax. La chanson-titre de cet album (écrite par Booker T. Jones et William Bell) est devenue la chanson la plus connue de King et a été reprise par plusieurs artistes (dont Cream, Paul Rodgers, Homer Simpson et Jimi Hendrix). La production des chansons était clairsemée et propre et maintenait un son de blues traditionnel tout en sonnant frais et résolument contemporain. La clé du succès de King chez Stax a été de donner à ses chansons une sensation R& B optimiste et lisse qui les a rendues plus attrayantes et adaptées à la radio que le son blues traditionnel lent et maudlin.
En 1967, King se produisait au Manhattan Club d’Ike Turner à East St. Louis lorsque le promoteur Bill Graham lui offrit 1 600 $ pour jouer trois soirs au Fillmore West de San Francisco. Il a sorti l’album Live Wire / Blues Power d’un des concerts.
En 1969, King se produit en direct avec l’Orchestre symphonique de Saint-Louis. La même année, il sort l’album Years Gone By. En 1970, il sort un album hommage à Elvis Presley, Albert King Does the King’s Things. C’était une collection de tubes des années 1950 de Presley retravaillés et ré-imaginés dans le style musical de King, bien que les critiques aient estimé que les résultats étaient mitigés.
Le 6 juin 1970, King se joint aux Doors sur scène au Pacific Coliseum de Vancouver, au Canada. Les enregistrements de cette performance ont été publiés en 2010 par Rhino Records sous le titre Live in Vancouver 1970.
En 1971, il sort l’album Lovejoy qui comprend notamment une reprise du tube des Rolling Stones » Honky Tonk Women « . Pour conserver son attrait populaire, King a adopté avec enthousiasme le nouveau son du funk. En 1972, il enregistre » I’ll Play the Blues for You « , qui comprend l’accompagnement des Bar-Kays, des Memphis Horns et du Movement (le groupe d’accompagnement d’Isaac Hayes). Il enregistre un autre album avec les Bar-Kays, I Wanna Get Funky (1974). Il a également fait un caméo sur un album comique d’Albert Brooks, A Star Is Bought (1975).
En 1975, la carrière de King a pris un tournant vers le bas lorsque Stax Records a fait faillite, après quoi il a déménagé au petit label Utopia. Ses deux albums suivants, Albert et Truckload of Lovin’ (1976), se sont consacrés à la musique pop générique des années 1970. Son troisième album pour Utopia, King Albert (1977), bien qu’un peu plus sobre, manquait encore de matériel remarquable, et la guitare de King prenait une banquette arrière aux instruments de fond. Clara McDaniel a fait équipe avec King au Club de Ned Love. Cela l’a amenée à faire une tournée avec King dans le Sud profond dans les années 1970. Lorsque McDaniel est rentrée chez elle, elle a géré la flotte de taxis de King. Le dernier enregistrement réalisé par King pour Utopia fut Live Blues en 1977, lors de sa performance au Montreux Jazz Festival. Le titre « As the Years Go Passing By » est remarquable pour son duo avec le guitariste irlandais Rory Gallagher.
En 1978, King passe à un nouveau label, Tomato Records, pour lequel il enregistre l’album New Orleans Heat. Le label l’a associé au producteur de R & B Allen Toussaint, qui avait été responsable de dizaines de succès dans ce genre dans les années 1960 et 1970, mais était un novice dans le travail avec des artistes de blues. L’album était un mélange de nouvelles chansons (y compris « Get Out of My Life, Woman » de Toussaint) et de réenregistrements d’anciens morceaux, tels que « Born Under a Bad Sign ». »
King a pris une pause de quatre ans après les ventes décevantes de ses albums à la fin des années 1970. Pendant cette période, il a repris ses racines en tant qu’artiste de blues et a abandonné tous les arrangements sauf la guitare 12 mesures, la basse, la batterie et le piano. En 1983, il sort un album live pour Fantasy Records, San Francisco ’83, qui est nominé pour un Grammy Award. La même année, il enregistre une session de télévision en studio, d’une durée de plus d’une heure, pour CHCH Television au Canada, mettant en vedette la jeune sensation blues Stevie Ray Vaughan; il a ensuite été publié en tant qu’album audio et plus tard en tant qu’album audio plus un DVD intitulé In Session.
En 1984, King sort l’album I’m in a Phone Booth, Baby, qui est nominé pour un Grammy Award. L’album comprend une reprise de « Truckload of Lovin' » et deux anciennes chansons d’Elmore James, « Dust My Broom » et « The Sky Is Crying ».
Les problèmes de santé de King l’ont amené à envisager la retraite dans les années 1980, mais il a continué des tournées régulières et des apparitions dans des festivals de blues, en utilisant un bus de tournée Greyhound personnalisé avec « I’Ll Play The Blues For You » peint sur le côté. Son dernier album, Red House (du nom de la chanson de Jimi Hendrix) est sorti en 1991.
Au moment de sa mort, il planifiait une tournée avec B.B. King et Bobby « Blue » Bland. Bland a déclaré à l’Associated Press: « il n’y a jamais eu de jalousie lorsque nous avons travaillé ensemble sur un paquet. L’un a juste poussé les autres. »