O desenho desta nova classe de cruzadores começou em 1925 sob a direção de Kikuo Fujimoto com base numa versão modernizada da Classe Myoko. Embora o Takao fosse o primeiro navio terminado, o Atago que sentrou em serviço dois meses antes. Na altura do ataque a Pearl Harbour, o Takao fazia parte da 4ª Divisão de Cruzadores do Vice-Almirante Kondo apoiando os desembarques em Luzon.

Em Fevereiro de 1942, o navio estava estacionado em Palau, onde intercetou navios chegando das Índias Orientais Holandesas; no dia 1 de Março, afundou um vapor holandês e um draga-minas britânico. No dia seguinte, ao largo de Atago, afundou o contratorpedeiro americano Pullsbury. No dia 4 de Março atacou um comboio perto de Cilacap, após o qual voltou a Yokosuka para instalação de peças antiaéreas adicionais.

Em Abril, o Takao participou na perseguição da força tarefa envolvida no Doolittle Raid. Em Maio, salvou 471 tripulantes do hidroavião Mizuho. Em Junho, providenciou cobertura à invasão das Ilhas Aleutas. Durante a Batalha das Ilhas de Santa Cruz, juntou-se a outros cruzadores no afundamento do porta-aviões Hornet. Em Novembro participou no bombardeamento do Henderson Field e sofreu danos durante um engajamento com couraçados americanos.

No começo de 1943, o navio apoiou a evacuação de Guadalcanal. Em Novembro, em Rabaul, foi atacado por aviões de porta-aviões e foi atingido por duas bombas, sendo reparado completamente em Janeiro de 1944. Durante a Batalha do Mar das Filipinas, o Takao serviu na força de vanguarda de Kurita. Em Outubro partiu para Brunei para participar na Batalha do Golfo de Leyte, mas quando passava pela Passagem de Palawan, foi atingido por dois torpedos disparados pelo submarino Darter. O Cruzador perdeu toda a propulsão e foi rebocado para Singapura, onde foi considerado irreparável e foi convertido em bateria flutuante.

Em 31 de Julho de 1945, minisubmarinos britânicos instalaram seis minas magnéticas no casco. A explosão desferiu um buraco no navio. O cruzador continuou flutuando e desempenhando funções até à rendição do Japão. Depois da guerra, o armamento foi removido e no dia 27 de Outubro de 1946, foi rebocado para o Estreito de Malaca, onde foi afundado no dia 29 de Outubro.