A pesar de su formación jurídica, su pasión por las ciencias lo llevó a dedicarse al estudio de la astronomía y la óptica. En 1661, fue nombrado filósofo y matemático ducal por Alfonso IV d'Este, lo que le permitió dedicarse plenamente a sus investigaciones científicas. Durante este período, colaboró con el marqués Cornelio Malvasia en observaciones astronómicas en el observatorio de la villa de Panzano. ​

Tras la muerte del duque en 1662, Montanari se trasladó a Bolonia, donde asumió la cátedra de matemáticas en la Universidad de Bolonia en 1664. Durante su tiempo en Bolonia, realizó importantes observaciones lunares y desarrolló una detallada carta de la Luna utilizando un micrómetro ocular que él mismo diseñó. Además, llevó a cabo estudios sobre la capilaridad y propuso que la viscosidad de los líquidos dependía de la forma de sus moléculas. ​

En 1669, sucedió a Giovanni Cassini como profesor de astronomía en la misma universidad. Una de sus contribuciones más notables fue la observación de la variabilidad en el brillo de la estrella Algol (β Persei), conocida como la "estrella demonio". Aunque este fenómeno ya había sido observado anteriormente, Montanari fue el primero en documentarlo sistemáticamente, contribuyendo al estudio de las estrellas variables. ​

Además de sus trabajos astronómicos, Montanari mostró un escepticismo hacia la astrología. Para demostrar su punto de vista, publicó un almanaque astrológico en 1665 con predicciones hechas al azar, evidenciando la falta de fundamento científico en las prácticas astrológicas. ​

En 1679, Montanari se trasladó a Padua para ocupar la cátedra de astronomía y meteorología en la Universidad de Padua. Durante su tiempo allí, realizó observaciones de la cometa de Halley en 1682 y participó en la construcción de una nueva observatorio. También llevó a cabo estudios en hidrografía, ingeniería militar y economía, publicando en 1680 un tratado sobre la acuñación de monedas y el valor del dinero. ​

Montanari falleció el 13 de octubre de 1687 en Padua, a causa de un derrame cerebral. Su legado perdura en la ciencia, con su nombre asociado a un cráter lunar y a un asteroide. Su enfoque experimental y su dedicación a la observación empírica sentaron las bases para el desarrollo de la ciencia moderna en Italia