Este lugar cuando fue descubierto por los españoles lo llamaron San Mateo de Huamán de Huaco. Se presume que este nombre fue de algún cacique o jefe, que los primeros españoles conocieron y lo recordaban. En cuanto al origen del nombre de Ate, existen varias tendencias, la más aceptada, de acuerdo a algunos historiadores, es la que deviene de la expresión Late , que tiene como etimología el nombre de Lati de origen aymará, y que posiblemente halla pertenecido a una civilización preinca.
Durante la época de los españoles, ellos hallaron tierras fértiles y acogedoras en esta zona, por lo que la dividieron en parcelas y se repartieron entre ellos. Es así que estos nuevos pobladores construyeron huertos y casas de campo (donde acudían en sus momentos de recreo y esparcimiento para gozar del aire de la sierra). Por eso es que la mayoría de los fundos, que hace 30 años existían todavía en ATE, llevaban nombres con etimología española.
La historia de Ate se encuentra ligada a la historia de Lima. Cuentan los historiadores que una de las primeras determinaciones del Generalísimo Don José de San Martín (apenas una semana después de haber declarado la Independencia del Perú) fue la de dictar el 04 de agosto de 1821 una Ley creando la provincia de Lima.
Fueron pasando los años, hasta que el 2 de enero de 1857, el libertador don Ramón Castilla (en ese momento presidente provisional del Perú) dicta una ley que dispone: De conformidad con la Ley Orgánica de 29 de noviembre último, habrá municipalidades en los lugares y con número de miembros expresados a continuación: Provincia de Lima (27), Magdalena (5), Surco (5), Miraflores (5), Chorrillos (5), Pachacámac (5), Ate ( 5) , Lurigancho (5), Carabaillo (5).
Desde 1926, la demarcación territorial del distrito de Ate se recortaba sucesivamente. Por esos años se crearon los distritos de Chaclacayo (1926), La Victoria (1944) Santiago de Surco (1944), El Agustino (1960), San Luis (1960), La Molina (1962) y Santa Anita (1989).
La capital del distrito de Ate fue en un primer momento el pueblo de Ate (ubicado en la Carretera Central) hasta el 13 de febrero de 1951.