Les gendarmes maritimes paraissent remonter aux « prévôts de la mer ». Un prévôt de la mer apparaît pour la première fois au XIVe siècle. Dès 1337, des compagnies d’archers de la Marine assurent, sous la responsabilité de ce prévôt, une surveillance visant à préserver et à maintenir la tranquillité des côtes.
Ils ont pour mission : « …de faire des chevauchées par les côtes, les grèves et les ports de nos mers pour s’informer des crimes qui s’y commettront, nettoyer icelles des voleurs et pirates, poursuivre les déserteurs des armées navales… ».
En 1704, huit prévôtés, totalisant 100