A pesar de esta separación formal, los Einsatzgruppen y el ejército alemán frecuentemente trabajaron en estrecha colaboración. Los Einsatzgruppen dependían del ejército para su apoyo logístico, transporte y seguridad. En muchos casos, el ejército proporcionó a los Einsatzgruppen mapas, inteligencia y acceso a los prisioneros de guerra. En algunos casos, unidades del ejército incluso participaron directamente en las masacres llevadas a cabo por los Einsatzgruppen.
Sin embargo, también hubo tensiones y conflictos entre los Einsatzgruppen y el ejército alemán. Algunos oficiales del ejército alemán se sintieron perturbados por los métodos de los Einsatzgruppen y trataron de distanciarse de sus actividades. A otros les molestó el hecho de que las SS recibieran un trato preferencial en términos de recursos y suministros. En algunos casos, los oficiales del ejército informaron de las atrocidades de los Einsatzgruppen a sus superiores, pero estos informes a menudo quedaron sin respuesta o fueron ignorados.
En general, la relación entre los Einsatzgruppen y el ejército alemán se caracterizó por una mezcla de cooperación, rivalidad y tensión. Si bien las dos organizaciones trabajaron juntas para lograr su objetivo común de conquistar y pacificar los territorios ocupados, también hubo diferencias significativas en sus métodos y motivaciones.