O livro passa-se nove anos depois da nave Discovery One, do computador HAL 9000 e do tripulante Dave Bowman (principal personagem do primeiro livro) terem ido ao encontro de Júpiter e, consequentemente, do "Grande Irmão" — denominação dada ao grande monólito (AMT-2) encontrado em Júpiter que, a não ser pelo tamanho, é idêntico ao monólito encontrado na Lua em 2001.

Nesta história o personagem principal trata-se do Dr. Heywood Floyd, que havia comandado da Terra a missão da Discovery One em 2001, e agora parte na nave Leonov (uma nave russa) junto com Walter Curnow (o engenheiro que projetou a Discovery) e Dr.Chandra (que construiu HAL 9000), além da tripulação russa, em uma missão para resgatar a primeira nave e tentar descobrir mais sobre o monólito de Júpiter e o paradeiro de Dave Bowman.