Благодаря страстной убежденности в своей правоте и хорошо подвешенному языку, Кубертен склонил большинство политиков и общественных деятелей на свою сторону и в 1894 г. созвал в Сорбонну представителей 12 стран.

Международный спортивный конгресс принял решение о возрождении Олимпийских игр и проведении Первой Олимпиады в 1896 г. в Афинах; избрал Международный олимпийский комитет (МОК), генеральным секретарем которого стал Кубертен (с 1896 г. — президентом); утвердил разработанную Кубертеном Олимпийскую хартию — свод основных правил и положений МОК.

Фразу «Сitius, Altius, Fortius» («Быстрее, выше, сильнее»), изреченную французским священником А.М. Дидоном, Кубертен сделал Олимпийским девизом. Он же определил олимпийский принцип: «Самое важное в Олимпийских играх — не победа, а участие, так же как в жизни самое главное — не триумф, а борьба». Предложил текст Олимпийской клятвы, ныне даваемой спортсменами, тренерами, официальными лицами команд и арбитрами. Позаимствовал у древних греков ритуал зажжения священного огня. Стал автором флага и олимпийской эмблемы — пять скрепленных колец, символизирующих объединение пяти частей света в олимпийском движении (голубое для Европы, черное для Африки, красное для Америки, желтое для Азии и зеленое для Австралии).

Изначально Кубертен хотел сделать Олимпийские игры любительским соревнованием, в котором нет места профессионалам, занимающимся спортом за деньги. К состязаниям не допускали даже тренеров и тех, кто получал денежные призы за участие. Верный грекам во всем, Кубертен был противником участия в играх женщин. Дамы пробились на Олимпиады уже после отставки Кубертена.

Главное же, что сделал Кубертен, — он создал не просто структуру олимпийского движения, а пропитал ее духом философии олимпизма, основанного на «интернационализме, честной игре и спорте для всех».

Через наследного принца греческого короля Георга I Константина Кубертен убедил монарха в целесообразности проведения Олимпиады в Греции; помог в организации сбора денег на это мероприятие по всей Греции и от филантропов (в частности, Г. Аверов отремонтировал «мраморный стадион»).

В I Олимпиаде приняли участие 241 участник из 14 стран. Программа игр включала в себя 9 видов спорта, было разыграно 43 комплекта серебряных и бронзовых медалей (золотые ввели позднее).

Две следующие Олимпиады были совмещены с Всемирными выставками, проходившими в 1900 г. в Париже, а в 1904 г. — в Сент-Луисе (СШA).

В 1906 г. состоялись так называемые Промежуточные игры в Афинах, после чего Олимпийские игры окончательно обрели свой нынешний статус, став самым значительным спортивным событием мира.