По преданию, первая икона появилась чудесным образом ещё во время земной жизни Спасителя. Правитель сирийского города Едессы Авгарь заболел проказой. Никто не мог его излечить. Услышав о чудесах и исцелениях, совершаемых в Палестине Иисусом, Авгарь уверовал в то, что выздороветь он может, взглянув на лицо Христа, и послал к Иисусу художника Анания написать Его портрет. Художник добрался до Иерусалима, видел Иисуса и слышал Его проповедь, но зарисовать Его не мог, так как большая толпа не давала возможности приблизиться к Христу. Тогда Он Сам подозвал Анания и, умыв лицо, обтёр его полотенцем (убрусом), на которым чудесным образом запечатлелся Его лик, и подал полотенце Ананию. Обрадованный художник поспешил с драгоценной ношей - Нерукотворным Образом - к своему господину. Получив чудесное изображение, Авгарь стал быстро поправляться. Таково было первое чудо, совершённое от первой святой иконы.
На этих иконах изображается только лик Иисуса Христа, запечатленный на убрусе (полотенце), который вписывается во всю доску. Вокруг головы Христа — так называемый крестчатый нимб, отличительная особенность иконографии Спасителя. Борода иногда раздвоена, иногда имеет клинообразную форму
Вторая легенда рассказывает о том, что когда Христос шел на Голгофу, то от усталости лицо Его покрылось потом. Он взял плат, который дала Христу некая Вероника, вытер лицо, и там остался Его образ.
Несомненно, что уже само наименование сего образа, «Всех скорбящих Радость», послужило причиной широчайшей его распространенности на Русской земле. Помимо первого московского образа насчитывалось не менее двух с половиной десятков чудотворных и местночтимых списков с этой иконы: в самой первопрестольной и в ее окрестностях, на берегах Невы и в Абхазии, в сибирском Тобольске и в Киеве, в Вологде и в Нижнем Новгороде, в иных городах, весях и обителях. 
