Накануне нападения на СССР, 14 мая 1941 года, 500-й пехотный батальон особого назначения был включен в состав 101-й пехотной дивизии, входящей в состав 17-й армии. Вступив вечером 24 июня в украинское село Поздзяк, батальон получил первое боевое задание – провести разведку боем в районе укреплений Медюки. Лоренц Кнауф, солдат «уставного персонала батальона», вспоминал (Андрей Васильченко. «Штрафбаты Гитлера»): «21 июня мы были на позициях. Затем мы выступили на марш. А утром прибыл обер-ефрейтор, который доставил трех русских из числа гражданских лиц. Мы еще лежали в окопах. Он бросил: „Они прибыли с той стороны границы“. Он поставил всех троих на бруствер окопа, а затем начал им стрелять по очереди в затылок из пистолета. Мы были очень озадачены…» Задание, которое 500-й батальон получил утром 25 июня, сводилось к тому, что нужно было провести разведку боем в районе укреплений Медюки…

Немецкие штрафники сражались и под Сталинградом, на берегах Дона, причем Сталинградская битва стала первым сражением, в котором они отличились: из них были созданы специальные подразделения, уничтожавшие советские танки. Фаустпатронов в вермахте тогда еще не водилось, и немцы отработали уникальную тактику борьбы с Т-34 и КВ на узких городских улицах, бросая под гусеницы противотанковые мины и «добивая» гранатами и минами… Они сражались с Красной армией на Малой Земле (против молодого Л. И. Брежнева) и на Курской дуге. Но в первые годы войны в основном они сражались на нашем Севере, в составе группы армий «Север» и отчасти группы армий «Центр».

В статье Андрея Николаева «Штрафбаты вермахта» рассказывается о боях в Тернополе: «В боях на Украине особенно прославился немецкий офицерский штрафбат, героически оборонявшийся в окруженном Тернополе. Он стал костяком гарнизона, составленного из разнородных частей. Уличные бои в Тернополе носили особенно упорный характер, своей крайней ожесточенностью напоминая Сталинград.

С гарнизоном хотели покончить как можно быстрее, но быстрой победы не получилось. 9 марта советские войска ворвались в Тернополь, завязав уличные бои. Штрафники укрылись в подземелье Доминиканского монастыря, где нашли надежное укрытие от огня артиллерии, и встречали огнем наступающих красноармейцев. Лишь 15 апреля войска 1-го Украинского фронта полностью овладели Тернополем. Советские солдаты гуманно отнеслись к раненным и попавшим в плен офицерам-штрафникам».

Немецкие штрафники сражались против Красной армии в Польше, участвовали в Арденнском прорыве, боях на озере Балатон и Арнемской операции.