Sanktuarium Ostrobramskie słynie z cudownego obrazu Matki Bożej Miłosierdzia. Badania przeprowadzone w 1993 roku wykazały, że Obraz Ostrobramski powstał najprawdopodobniej w Wilnie około lat 1620-1630. Namalowano go na ośmiu dębowych deskch, techniką temperową na podkładzie klejowo-kredowym, a później przemalowano farbami olejnymi. Nie wykluczono jednak, że został sprowadzony z Niderlandów. Malarz wzorował się na szesnastowiecznych rycinach niderlandzkich, a pierwowzorem była kompozycja flamandzkiego malarza Martina de Vosa.
Wizerunek przedstawia Madonnę bez Dzieciątka, o smutnym obliczu, z głową lekko pochyloną w prawo i rękami skrzyżowanymi na piersi. Nie jest to ikona. Należy do najciekawszych i rzadkich przedstawień Maryi, ponieważ, w odróżnieniu od większości wizerunków maryjnych, ukazuje Ją bez dzieciątka.
Obraz ma długą i bogatą historię. Pocztkowo był własnością magistratu miejskiego. W 1626 roku do Wilna przybyli karmelici bosi i osiedlili się w pobliżu Ostrej Bramy. W 1668 roku przejęli opiekę nad obrazem, a 1671 roku wznieśli dla niego drewnianą kaplicę, w której gromadzili wiernych na modlitwie. Był to przełomowy moment w jego dziejach. W 1726 roku konsekrowano murowaną kaplicę, zwaną Ostrą Bramą. Obrazowi przypisywano cudowną ochronę przed pożarami, ponieważ ocalał z kilku pożarów, które strawiły kaplicę i kościół św. Teresy.
Pierwszą obszerną relację o obrazie, zatytułowaną Relacya o cudownym obrazie Najświętszej Maryi Panny, opracował ojciec Hilarion Rościszewski, uczony i pobożny definitor karmelitów bosych. Dzieło ukazało się drukiem w 1762 roku, a zawarte w nim relacje pochodzą z roku 1761. Autor opisał w nim cuda spisane na podstawie zeznań pod przysięgą. Kult obrazu zainicjowali jednak karmelici bosi znacznie wcześniej, bo już w drugiej połowie XVII wieku, a pierwsza drukowana wzmianka o nim pochodzi z 1748 roku. Madonna Ostrobramska otaczana była szczególną czcią i przyciągała rzesze wiernych, o czym świadczą liczne wota dzienkczynne za otrzymane łaski.
Na przełomie XVII i XVIII wieku obraz przemalowano, a później wielokrotnie go odnawiano. Około 1840 roku uszkodzone miejsca odrestaurował Kanuty Rusiecki. W 1927 roku obraz odnowił prof. Jan Rutkowski. W tym samym roku odbyła się uroczysta koronacja wizerunku koronami papieskimi, a Madonna otrzymała wówczas tytuł Matki Miłosierdzia.
Do upowszechnienia kultu obrazu Matki Boskiej Ostrobramskiej w całej Polsce przyczyniła się epopeja narodowa “Pan Tadeusz” Adama Mickiewicza, wydana po raz pierwszy w 1834 roku. Poeta jako dziecko został cudownie uzdrowiony za wstawiennictwem Matki Bożej Ostrobramskiej i wspominał o tym w inwokacji:
“Panno święta, co Jasnej bronisz Częstochowy
I w Ostrej świecisz Bramie! Ty, co gród zamkowy
Nowogródzki ochraniasz z jego wiernym ludem!
Jak mnie dziecko do zdrowia powróciłaś cudem,
(Gdy od płaczącej matki pod Twoją opiekę
Ofiarowany, martwą podniosłem powiekę
I zaraz mogłem pieszo do Twych świątyń progu
Iść za wrócone życie podziękować Bogu) (…)”
A. Mickiewicz “Pan Tadeusz”