Часовня расположена на месте расстрела православных священников. 6 ноября 1941 года архимандрит Александр и протоиерей Павел были расстреляны за призыв населения к сопротивлению немецко-фашистским захватчикам. В 2000 году на этом месте был установлен памятный крест.

2 ноября 2012 года по благословению Блаженнейшего митрополита Киевского и всея Украины Владимира викарий Киевской митрополии епископ Макаровский Иларий освятил часовню в честь иконы Божией Матери «Всех скорбящих Радость» в Бабьем Яру.