Se cree que los humanos modernos se originan en la región del valle del rift del este de África, y además de restos de homínidos fosilizados, los arqueólogos han descubierto el asentamiento humano más antiguo de África en Tanzania.
Alrededor del primer milenio EC, la región fue colonizada por pueblos de habla bantú que emigraron desde el oeste y el norte. El puerto costero de Kilwa fue establecido alrededor del año 800 EC por comerciantes árabes, y los persas también establecieron Pemba y Zanzíbar. En 1200 d. C., la mezcla distintiva de árabes, persas y africanos se había convertido en la cultura swahili.
Vasco da Gama navegó por la costa en 1498, y la zona costera pronto cayó bajo el control de los portugueses. A principios de 1700, Zanzíbar se había convertido en un centro para la trata de esclavos árabes omaníes.
A mediados de la década de 1880, el alemán Carl Peters comenzó a explorar la región, y en 1891 se creó la colonia del África Oriental alemana. En 1890, tras su campaña para terminar con el comercio de esclavos en la región, Gran Bretaña convirtió a Zanzíbar en un protectorado..
África Oriental Alemana se convirtió en un mandato británico después de la Primera Guerra Mundial, y pasó a llamarse Tanganica. La Unión Nacional Africana de Tanganica, TANU, se unió para oponerse al dominio británico en 1954: lograron el autogobierno interno en 1958 y la independencia el 9 de diciembre de 1961.
El líder de TANU, Julius Nyerere, se convirtió en primer ministro, y luego, cuando se proclamó una república el 9 de diciembre de 1962, se convirtió en presidente. Nyerere presentó ujamma, Una forma de socialismo africano basado en la agricultura cooperativa.
Zanzíbar obtuvo la independencia el 10 de diciembre de 1963 y el 26 de abril de 1964 se fusionó con Tanganica para formar la República Unida de Tanzania.
Durante el gobierno de Nyerere, el Chama Cha Mapinduzi (Partido Revolucionario del Estado) fue declarado el único partido político legal en Tanzania. Nyerere se retiró de la presidencia en 1985, y en 1992 se modificó la constitución para permitir la democracia multipartidista..