Легион был создан 9 марта 1831 королём Луи-Филиппом I на основе нескольких полков-предшественников. Одним из этих полков был Régiment de Hohenlohe под командованием немецкого князя и французского маршала Людвига Алоиса фон Гогенлоэ-Бартенштайна (Ludwig Aloys von Hohenlohe-Bartenstein). Этот полк воевал за роялистов в Революционных войнах и позже служил французскому королю Карлу X. Поскольку Франция планировала колонизацию Алжира, ей нужны были значительные войска. В это время во Франции, и особенно в Париже, поселилось много иностранцев. С созданием Легиона король Луи-Филипп мог получить нужные войска и заодно сократить в стране численность «нежелательных» слоёв населения. Поэтому он на следующий день издал закон (la Loi du 9 mars 1831) о том, что иностранный легион может использоваться только за пределами континентальной Франции. Офицеры для нового подразделения были набраны из армии Наполеона, а в солдаты вербовались уроженцы Италии, Испании, Швейцарии, других европейских стран, а также французы, у которых были проблемы с законом. Тогда же была заложена традиция — не спрашивать имени новобранца.

5 ноября 1854 Легион принимал участие в битве под Инкерманом в Крымской войне. Иностранный легион принимал участие в большинстве французских колониальных войн, позже и в миссиях по сохранению мира. Самое большое поражение Легион потерпел в Битве при Дьенбьенфу (1954).

Днём славы Иностранного легиона стало 30 апреля 1863 года, когда во время Мексиканской экспедиции произошло сражение при Камероне. Перед ротой легионеров под командованием капитана Данжу была поставлена задача разведать окрестности Пало Верде в ожидании конвоя с орудиями, приспособлениями для осады, а также тремя миллионами франков наличными, предназначавшимися для французских войск осаждавших Пуэблу. Выдвинувшись после полуночи 30-го апреля, легионеры столкнулись с мексиканцами утром того же дня. Осознавая неоспоримое преимущество мексиканцев (1200 пехотинцев и 800 кавалеристов) капитан Данжу со своими людьми занял здание в деревушке под названием Камерон. Чтобы обеспечить безопасность конвоя, мексиканцев было необходимо удержать любой ценой. Зная, что они обречены и спасти их может только чудо, легионеры дали слово стоять до конца. Более десяти часов они противостояли армии мексиканцев. Несмотря на предложения сдаться, легионеры предпочли смерть бесславному плену. Их самопожертвование позволило конвою беспрепятственно добраться до Пуэблы.

Сегодня Легион применяют там, где французское государство защищает свои интересы в рамках НАТО или Европейского союза, имеет исторические обязанности (например Кот-д'Ивуар) или где подвергаются опасности французские граждане. Он подчиняется, как и в 1831 г., только одному человеку: французскому главе государства, сегодня — президенту.