Действие D.Gray-man разворачивается в альтернативной Европе XIX века и рассказывает о Тысячелетнем Графе, строящем планы по уничтожению мира, при помощи созданных им Акума (яп. 悪魔 акума?, Демон) — человекоподобных существ, представляющих собой живые орудия зла и соединяющих в себе душу умершего человека и механическое тело. И борющихся с ним экзорцистов, входящих в состав религиозной организации под названием Чёрный Орден (яп. 黒の教団 Куро но кё:дан?).
Экзорцисты — это особенные люди, наделенные взаимосвязью с «Чистой Силой», божественной субстанцией, созданной много веков назад для того, чтобы бороться с созданиями Графа. Известно, что Чистая Сила в виде 109 частей разбросана по всему миру. Как только частица Чистой Силы вступит во взаимосвязь с подходящим человеком, она может быть превращена в оружие для борьбы с Акумой.
Целью Тысячелетнего Графа являются поиски так называемого «Сердца Чистой Силы». Это особая форма Чистой Силы, которая обеспечивает существование всех остальных 109 частей. Уничтожение Сердца приведёт к уничтожению остальных частей. За этим Сердцем охотятся Граф и семья Ноя