Nació en el barrio de Movellán, en la localidad de Roiz, perteneciente al municipio cántabro de Valdáliga, en el seno de una familia de hidalgos con casa solar en Maliaño (Camargo). Nieto de Ruy Gutiérrez de Maliaño y Herrera, señor de la casa solariega de Maliaño, su familia gozaba de una acomodada posición social. Sin embargo, habiendo nacido fuera del matrimonio de su padre, la familia le despreciaba incluso cuando su padre ya se había casado con su madre, una vez fallecida la primera esposa. Juan tenía tres o cuatro años cuando su padre murió.
A los catorce fue enviado a servir en la Corte de Valladolid en el entorno próximo de Felipe II, por entonces joven príncipe sólo tres años mayor que él, muy probablemente en calidad de paje. La vida uniría a ambos personajes históricos, a lo largo de cerca de cuarenta años, siendo Herrera, primero, miembro de su escolta personal y, más tarde, su criado, su arquitecto y su aposentador de palacio. Tras la muerte de Carlos I en 1558 pasa al servicio de Felipe II, bajo cuyo mecenazgo desarrollará la práctica totalidad de su carrera. Se ocupa de la enseñanza del príncipe Carlos y, en el ejercicio de esta actividad, copia las figuras astronómicas del Libro del saber de astronomía, tarea que concluye en 1562.
El 18 de febrero de 1563 se pone bajo las órdenes de Juan Bautista de Toledo, autor del proyecto inicial del monasterio de El Escorial. En 1572 asume oficialmente la dirección de las obras, que finaliza en 1584. Otra de sus obras maestras fue la catedral de Valladolid. En 1583 funda la Academia de Matemáticas y Delineación (antecedente de la Real Academia de Ciencias Exactas, Físicas y Naturales) y se convierte en su primer director. De él dice Agustín Bustamante García que es “sobre todas las cosas, un vitruviano, y por ello mismo, un naturalista, que ve en el número y la geometría, es decir, en las matemáticas, la forma de entender la naturaleza”. Llegó a ser el máximo representante en España de la arquitectura renacentista nacida en Florencia a mediados del siglo XV.
Entre sus obras resaltamos dos: Sumario y breve declaración de los diseños y estampas de la Fábrica de San Lorenzo el Real del Escorial (1589), y Descripcion con figuras geométricas de la grua [Manuscrito], que presentó Juan de Herrera en el real sitio del Escorial para facilitar la construcción del templo y del monasterio, s.f. En 1594 cae gravemente enfermo y abandona el trabajo activo. Muere en Madrid el 15 de enero de 1597, siendo enterrado en la iglesia de San Nicolás de los Servitas. Siguiendo la voluntad reflejada en su testamento, redactado en 1584, sus restos mortales están depositados en la actualidad en la iglesia de San Juan Bautista, en el Alto de Maliaño (Cantabria).