King comenzó su trabajo profesional como músico con un grupo llamado the Groove Boys en Osceola, Arkansas. Durante este tiempo estuvo expuesto al trabajo de muchos artistas de Delta blues, incluyendo a Elmore James y Robert Nighthawk.
En 1953, se mudó al norte de Gary, Indiana, donde tocó brevemente la batería en la banda de Jimmy Reed y en varias de las primeras grabaciones de Reed. En Gary, grabó su primer sencillo («Bad Luck Blues» respaldado con «Be On Your Merry Way»), para Parrot Records. El disco vendió algunas copias, pero no tuvo un impacto significativo y Parrot no solicitó ningún registro de seguimiento ni firmó a King con un contrato a largo plazo. En 1954, regresó a Osceola y volvió a unirse a los Groove Boys durante dos años.
En 1956, se mudó a Brooklyn, Illinois, justo al otro lado del río de St. Louis, y formó una nueva banda. Se convirtió en una atracción popular en la escena del club nocturno de St. Louis junto a los reyes del ritmo de Ike Turner y Chuck Berry. Firmó con el sello Little Milton Bobbin en 1959, lanzando algunos sencillos, pero ninguno de ellos llegó a las listas. Sin embargo, llamó la atención de King Records, que lanzó el sencillo «Don’t Throw Your Love on Me So Strong» en noviembre de 1961. La grabación cuenta con el músico Ike Turner al piano y se convirtió en el primer éxito de King; alcanzando el número 14 en el Billboard R&B chart. La canción fue incluida en su primer álbum The Big Blues en 1962. King dejó Bobbin a finales de 1962 y grabó una sesión para King Records. En 1963, firmó con el sello Coun-Tree del artista de jazz Leo Gooden y grabó dos discos para ellos, pero estos no llegaron a las listas.
Sin perspectivas aparentes de carrera aparte de recorrer el circuito de clubes en el Sur y el Medio Oeste, King se mudó a Memphis, donde firmó con el sello discográfico Stax. Producido por Al Jackson Jr., King con Booker T. & the MGs grabó docenas de lados influyentes, como «Crosscut Saw» y «As the Years Go Passing By». En 1967, Stax lanzó el álbum Born Under a Bad Sign, una colección de singles que King grabó en Stax. La canción que da título a ese álbum (escrita por Booker T. Jones y William Bell) se convirtió en la canción más conocida de King y ha sido versionada por varios artistas (incluyendo Cream, Paul Rodgers, Homer Simpson y Jimi Hendrix). La producción de las canciones fue escasa y limpia y mantuvo un sonido blues tradicional al tiempo que sonaba fresco y completamente contemporáneo. La clave del éxito de King en Stax fue darle a sus canciones una sensación optimista y elegante de R&B que hizo que las canciones fueran más atractivas y amigables para la radio que el sonido lento y delicado del blues tradicional.
En 1967, King estaba actuando en el Manhattan Club de Ike Turner en East St. Louis cuando el promotor Bill Graham le ofreció 1 1.600 para tocar tres noches en el Fillmore West de San Francisco. Lanzó el álbum Live Wire / Blues Power de uno de los conciertos.
En 1969, King actuó en vivo con la Orquesta Sinfónica de San Luis. Ese mismo año, lanzó el álbum Years Gone By. En 1970, lanzó un álbum tributo a Elvis Presley, Albert King Does the King’s Things. Fue una colección de los éxitos de Presley de la década de 1950 reelaborados y reimaginados en el estilo musical de King, aunque los críticos sintieron que los resultados fueron mixtos.
El 6 de junio de 1970, King se unió a The Doors en el escenario del Pacific Coliseum en Vancouver, Canadá. Las grabaciones de esta actuación fueron lanzadas en 2010 por Rhino Records como Live in Vancouver 1970.
En 1971, lanzó el álbum Lovejoy, que incluye una versión del éxito de los Rolling Stones «Honky Tonk Women». Para conservar su atractivo popular, King abrazó con entusiasmo el nuevo sonido del funk. En 1972, grabó «I’ll Play the Blues for You», que contó con el acompañamiento de The Bar-Kays, the Memphis Horns y the Movement (el grupo de apoyo de Isaac Hayes). Grabó otro álbum con los Bar-Kays, I Wanna Get Funky (1974). También hizo un cameo en un álbum cómico de Albert Brooks, A Star Is Bought (1975).
En 1975, la carrera de King dio un giro hacia abajo cuando Stax Records se declaró en bancarrota, después de lo cual se mudó a la pequeña discográfica Utopia. Sus dos siguientes álbumes, Albert and Truckload of Lovin’ (1976), se convirtieron en música pop genérica de la década de 1970. Su tercer álbum para Utopía, King Albert (1977), aunque un poco más tenue, todavía carecía de material destacado, y la guitarra de King pasó a un segundo plano para los instrumentos de fondo. Clara McDaniel se asoció con King en el Club Ned Love. Esto la llevó a viajar con King en el Sur Profundo en la década de 1970. Cuando McDaniel regresó a casa, dirigió la flota de taxis de King. La última grabación que King hizo para Utopia fue Live Blues en 1977, de su actuación en el Festival de Jazz de Montreux. La canción «As the Years Go Passing By» es notable por su dúo con el guitarrista irlandés Rory Gallagher.
En 1978, King se mudó a un nuevo sello, Tomato Records, para el que grabó el álbum New Orleans Heat. El sello lo emparejó con el productor de R&B Allen Toussaint, que había sido responsable de decenas de éxitos en ese género en las décadas de 1960 y 1970, pero era un novato en el trabajo con artistas de blues. El álbum fue una mezcla de canciones nuevas (incluyendo «Get Out of My Life, Woman» de Toussaint) y regrabaciones de material antiguo, como «Born Under a Bad Sign».»
King se tomó un descanso de cuatro años de la grabación después de las decepcionantes ventas de sus álbumes a finales de la década de 1970. Durante este período, volvió a abrazar sus raíces como artista de blues y abandonó cualquier arreglo excepto la guitarra de 12 compases, el bajo, la batería y el piano. En 1983, lanzó un álbum en vivo para Fantasy Records, San Francisco ‘ 83, que fue nominado para un premio Grammy. El mismo año grabó una sesión de televisión de estudio, de más de una hora de duración, para CHCH Television en Canadá, con la prometedora sensación de blues Stevie Ray Vaughan; posteriormente fue lanzado como un álbum de audio y más tarde como un álbum de audio más DVD titulado In Session.
En 1984, King lanzó el álbum I’m in a Phone Booth, Baby, que fue nominado para un premio Grammy. El álbum incluyó un rehacer de «Truckload of Lovin ‘»y dos canciones antiguas de Elmore James, «Dust My Broom»y» The Sky Is Crying».
Los problemas de salud de King lo llevaron a considerar la jubilación en la década de 1980, pero continuó con giras regulares y apariciones en festivales de blues, utilizando un autobús de gira personalizado con «I’ll Play The Blues For You» pintado en el lateral. Su último álbum, Red House (llamado así por la canción de Jimi Hendrix) fue lanzado en 1991.
En el momento de su muerte, estaba planeando una gira con B. B. King y Bobby «Blue» Bland. Bland le dijo a la Associated Press: «nunca hubo ningún tipo de celos cuando los tres trabajamos juntos en un paquete. Uno empujó a los otros.»