1933年、アドルフ・ヒトラーによる政権掌握を経て野戦憲兵隊の再編成が始まる。新たな野戦憲兵隊は歩兵としての訓練を十分に施された隊員によって構成され、彼らには従来よりも大きな警察活動の権限が与えられた。憲兵学校はポツダムに設置された。憲兵は歩兵たる訓練に加えて、刑法、一般および特別警察法、書類識別、護身術などの教育および訓練を受けた。

憲兵志願者は一次試験の後、全員が一度憲兵本部に配属される。その後の選抜試験は非常に過酷で、例えば1935年には219名の志願者がこれに挑んだものの、最終的に憲兵となったのは89名のみであった。野戦憲兵隊は陸軍の各師団に配置され、軍団単位での自己完結型の部隊として活動した。しばしば秘密野戦警察 (Geheime Feldpolizei)や親衛隊及び警察指導者指揮下の親衛隊および警察部隊と共同で任務に当たった。

野戦憲兵隊の任務は国防軍とともに前進し、前線占領地の治安を維持することである。この中には警邏や交通管制、市民の統制、パルチザンおよび敵敗残兵の捜索・逮捕および処刑などが含まれる。そして国防軍の前進と共にこれらの業務を親衛隊および党組織が構成する占領当局に引き継ぎ、その占領地における野戦憲兵隊の任務は終了するのである。ただし、彼らが親衛隊の部隊と共に占領地における戦争犯罪に関与していたことも知られている。

1943年以降、戦況が徐々に悪化し始めると、国防軍内の軍紀維持も野戦憲兵隊の重要な任務の1つとなり、脱走兵などは憲兵によって即刻銃殺された。憲兵らは憲兵隊所属を示すゴルゲットを首にかけていた為、一般兵らはいくらかの軽蔑を込めて憲兵を「ケッテンフンデ」（Kettenhunde、「鎖付きの犬ども」）と呼んだ。さらに撤退中の部隊や後方移送中の傷病兵らを捜索して詐病者や逃亡兵と思しき者を全て処刑するなどのあまりにも残酷な警察活動は多くの将兵から嫌悪され、「ヘルデンクラウアー」（Heldenklauer, 「英雄を盗む者」）という俗称も生まれた。

ドイツ国防軍では軍法会議で有罪判決を受けた将兵らによって懲罰部隊たる執行猶予大隊を編成していたが、これの監督も野戦憲兵隊の任務であった。

親衛隊では親衛隊野戦憲兵隊(SS-Feldgendarmerie)が編成されており、彼らは陸軍の野戦憲兵と同様のゴルゲットに加えて、憲兵である事を示す袖章を縫い付けていた。彼らは通常の警察任務や軍紀維持に加えて、アインザッツグルッペンなどと共同したユダヤ人対策も遂行した。彼らは国防軍の野戦憲兵隊以上に悪名高く、「コップイエーガー」（Kopfjäger, 「首狩り族」）の異名で恐れられた。1944年以降は秩序警察出身の武装親衛隊将兵がこれに加わった。元警官の親衛隊憲兵らは袖に警察の鷲章を縫いつけていた。

1944年1月、東部戦線で赤軍の反攻が始まる頃、憲兵軍団（英語版）(Feldjägerkorps)なる3個連隊規模の部隊が新設され、野戦憲兵隊からも大勢の人員が引きぬかれた。憲兵軍団は国防軍最高司令部に直属し、野戦憲兵隊を含む陸海空軍全ての部隊の軍規維持を行った。憲兵軍団に所属する憲兵隊員(Feldjäger)には前線での戦功がある下士官兵および将校が選ばれた。彼らは国防軍最高司令部の名の下、命令違反者や脱走兵など「敗北主義者」と見なされた国防軍や親衛隊の将兵全員を逮捕および処刑する権限を持っていた。

1945年5月にはナチス・ドイツが連合国に降伏するが、占領下のドイツ西部では占領軍を補助する予備警察的組織として野戦憲兵隊および憲兵軍団の一部が存続した。例えば英第8軍団（英語版）によって支配されていたシュレースヴィヒ＝ホルシュタイン州では、野戦憲兵隊の1個連隊がメルドルフ（英語版）の復員局にて治安維持を含む各業務を遂行した。こうした任務に当たった憲兵部隊には国防軍秩序隊(Wehrmachtordnungstruppe)なる名称が与えられており、彼らには当局から給与も支払われていた。敗戦から1年以上経った1946年6月、全ての憲兵組織の武装解除が行われ野戦憲兵隊は消滅した。

野戦憲兵隊は陸軍総司令部直属の組織であった。野戦憲兵隊は陸軍総司令部兵站局長(Generalquartiermeister)の指揮下にあり、責任者は憲兵少将であった。憲兵少将は野戦憲兵隊の運用や人事、訓練など全ての責任を担っていた。また憲兵少将は各軍上級司令部(Armeeoberkommando, AOK)に幕僚を派遣しており、幕僚らは所属する軍上級司令部ごとに1個または2個の野戦憲兵大隊を率いた。各大隊には料理人や事務員、銃器工などの支援要員も所属していた為、大隊は自部隊のみで全ての業務を遂行できる自己完結型の部隊となっていた。

大隊はいくつかの小隊(Truppen)に分割され、小隊ごとに軍上級司令部内の各師団・軍団に配置された。分隊(Gruppe)はより小さな編成で、必要に応じて前線司令部などに配置された。また、しばしばパルチザン狩り任務の為に特別の編成が行われた。歩兵師団ないし装甲師団に配置されていた典型的な憲兵小隊は、将校3名、下士官41名、兵卒20名により構成されていた。