L'origen de l'actual edifici és una església medieval anterior que es va aixecar en el segle XIII, quan la tradició situa el descobriment de la imatge de la verge, i que apareix citada per primera vegada al 1289.

S'han interpretat com a part d'una edificació militar, que més tard es va integrar en la primitiva església de la Penya. A la cripta, construïda per a ampliar l'antic solar, també es veu alguna resta d'aquest aparell. La primitiva imatge de la Verge de la Penya era d'estil gòtic, però es va perdre en la Guerra Civil. L'actual és de nova talla realitzada per l'escultor grausino Felipe Coscolla (1880-1940).

Al 1538 el clergat i el Consell de Graus volien edificar una nova església. Després d'informar-se de com la basílica de Sant Joan de Letrán de Roma van sol·licitar al Cabildo el seu desig de fundar-la. Aquest mateix any va ser concedit. Deu anys i altres tantes quarantenes de Perdó, perquè els fidels amb tanta major liberalitat allarguin les seves caritatives mans. Es va concedir també la indulgència plenària, amb les condicions de les basíliques menors.

Una inscripció a la portada indica que l'obra degué portar bon ritme al principi, però s'observen dues fases clarament en ella. La primera, realitzada entre 1539 i 1543, és una obra arquitectònicament gòtica tardana: inclou l'absis, sobre el qual s'eleva una torre acabada en capitell, i el primer tram de l'església, coberta amb volta de tercelets; s'identifica en l'exterior per les motllures que subdivideixen el mur i pels contraforts que serveixen per a contrarestar el pes de la volta.

Ricardo de l'Arc atribuïa l'església als mestres Juan de Zeant i Juan de Mata. Es referia, sens dubte, a aquesta primera fase de l'obra. El més destacable d'aquesta fase és la portada de 1543, segurament d'un autor diferent de la resta. És una obra renaixentista. La decoració és abundant: candelieri en els brancals, casetones en l'intradós, i angelotes en la rosca de l'arc, escuts de la vila en els carcanyols, garlandes amb bucráneos, angelotes, calaveres en el fris, en el centre del qual descendeix un ocell sobre la clau de l'arc (Esperit Sant?)

Després de la realització de la portada els mitjans econòmics degueren faltar i la construcció es va parar uns anys. En 1553 l'abat de San Victorián, Don Joan de Pomar, va aconseguir permís del nunci papal per a desviar nous fons per a l'obra i dos anys després se signava amb Jaques de Anduxes, veí de Lascuarre, la finalització de l'obra. No obstant això, el contracte va canviar de mans quan en 1556 es contracta novament a Joan Tellet, de Montsó. A aquest mestre, se'l va obligar en primer lloc acabar el pòrtic conforme a com estava començada la portada, de manera que enfront de les columnes que ja estaven fetes havia de fer-ne altres dues i col·locar entre elles un calvari amb un entaulament similar a l'existent.

Després, va realitzar el segon tram de l'església i va cobrir aquesta part amb volta estrellada més decorada que la de l'altre tram. Finalment, va realitzar l'escalinata que comuniquen el pòrtic amb el pati i reparar un pont de la vila. L'obra havia de realitzar-se en quatre anys i per ella va cobrar 22000 sous. Aquesta segona fase s'identifica en l'exterior pels seus murs llisos i per la falta de contraforts, ja que es va optar per achaflanar les cantonades interiors del temple. Aquesta solució evita que els contraforts ocupin espais de la rampa de pujada al conjunt i de l'escalinata d'accés. És la traça, datada al 1555 s'observa una volta estrellada, que va ser destruïda en la Guerra Civil i reconstruïda imitant la del primer tram.

Joan Tellet era un artista que signava les seves obres: Joanes Tellet en dues cartel·les del fris del pòrtic. A més, en el pòrtic havia de fer un crucifix (que es va perdre en la guerra), la Verge i Sant Joan, en clara advocació mariana i laterense.

La capella de Sant Joan de Letrán té un caràcter representatiu de la vinculació a la basílica romana i de la independència de les jurisdiccions. La façana i un altre mur de la capella ja s'havien realitzat en 1560; els nous murs, ocults al pati, es van fer en maçoneria com la futura casa hospital.

La casa o hospital estava prevista ja en 1538, però la seva construcció és posterior a l'església (1560), ja que la seva estructura es recolza sobre ella. En principi, hi ha dades d'ella abans que finalitzi aquest segle. L'edifici és de maçoneria i té tres plantes: la primera amb dotze arcs de mig punt acull la rampa d'accés; la segona té una bella galeria amb setze columnes torsas i una altra columnata interior amb sis arcs rebaixats que comunica amb la plaça del pou; en la tercera, de maó, es troben habitacions destinades a Hospital de Pelegrins. En l'angle sud s'alça un petit cos rematat amb una galeria d'arcs de mig punt de maó, semblants a les dels palaus renaixentistes aragonesos, mentre que en l'angle nord es troba amb un altre edifici, sobre l'entrada i adossat a l'església, on havia de residir el clergat que s'encarregava de l'edifici.

La columnata tenia clara funció de claustre. Les inscripcions en grec de les seves columnes ho deixen clar: Busqueu les coses de dalt; Penseu en les coses de dalt; Res amb excés; Coneix-te a tu mateix; Amb Déu. Algunes d'elles estan tretes d'escrits en el Santuari de Delfos.

Els retaules i escultures van ser destruïts en la Guerra Civil, excepte el de Sant Joan de Letrán. Es tracta d'un retaule que presenta dos cossos, el principal emmarcat per dues columnes salomòniques adornades amb fulles de vinya i raïms i guardapols laterals, i l'àtic, més petit i unit a l'anterior per l'escut dels Heredia. Fotografies antigues donen testimoniatge de l'aparença de l'interior. Esteban de Esmir, natural de Graus i bisbe d'Osca entre 1641 i 1654, mecenes de l'harmoniós conjunt format pels tres retaules principals, datats d'aquestes dates.

A.H.M.G.: Carpeta 1, núm. 8. Es tracta d'una confirmació de 1363 d'un privilegi de 1289.