در روز 21 ماه مه 1904 اساسنامه‌ای که توسط ویلهلم هوشمن هلندی به عنوان پیش‌نویس فدراسیون بین‌المللی فوتبال نوشته شده بود به امضای اعضای موسس رسید. هیئت موسس عبارت بودند از اشنایدر (سوئیس)، هوشمن (هلند)، مولینگهاوس (بلژیک)، سیلور (دانمارک)، ماکس کاهن (بلژیک)، آندره اسپیر (فرانسه) و روبرت گوئرین (فرانسه). دو روز بعد برپایه اساسنامه تدوین شده، نخستین کنگره فیفا تشکیل گشت و طی آن روبرت گوئرین دبیرکل سازمان فوتبال فرانسه به عنوان اولین رئیس فیفا انتخاب شد. با گذشت زمان کشورهای بیشتری به عضویت فیفا درآمدند. انگلیسی‌ها البته روی چندان خوشی به این تشکیلات نوپا نشان ندادند و در ابتدا به عضویت آن در نیامدند. در سال 1914 هنگامی که ژول ریمه رئیس فدراسیون فوتبال فرانسه ایده جام جهانی را نخستین بار مطرح نمود، هوشمن هلندی که اولین قوانین را برای تصویب فیفا تدوین نموده بود، استقبال شایانی از آن به عمل آورد. او حتی بر این عقیده بود که فوتبال المپیک باید به جام جهانی تبدیل شود، اما چند عضو دیگر فیفا اعتقاد داشتند که فقط با نظارت فیفا، فوتبال المپیک می‌تواند به عنوان یک رویداد قهرمانی فوتبال در جهان شناخته شود و فوتبال المپیک باید از قوانین فیفا پیروی نماید. مباحث این چنینی در بین اعضای فیفا ادامه داشت که در سال 1914 جنگ جهانی اول سراسر اروپا را فرا گرفت و هرگونه تلاش و کوششی را برای به ظهور رساندن ایده جام جهانی از بین برد. تمامی کشورهایی که علاقه به برگزاری جام جهانی داشتند با مسائل دیگر روبرو بودند و فکر ایجاد جام جهانی را از ذهن خود دور کردند. پس از پایان جنگ، فیفا در سال 1919 دوباره شروع به کار کرد و چندی بعد هیئت جدید به ریاست ژول ریمه بر سر کار آمد. ژول ریمه لوئیز استورپ را به عنوان معاون و هوشمن را به عنوان دبیرکل فدراسیون بین‌المللی فوتبال برگزید. در زمان شروع ریاست ژول ریمه در مجموع 20 کشور عضو فیفا بودند ولی هنگامی که در سال 1954 از این سمت استعفا داد، تعداد اعضای فیفا به عدد 85 رسیده بود که یک رکورد قابل‌ توجه برای پیرمرد پرتلاش و خوش‌فکر فرانسوی محسوب می شد. ژول ریمه برای ایجاد جام جهانی سعی و تلاش فراوانی از خود نشان داد که سفرهای بی‌شمار به کشورهای عضو فیفا در اقصی نقاط جهان، مبارزه با مخالفین جام جهانی، تشکیل اجلاس‌های بی‌شمار، تعیین میزبان اولین دوره، بحث با مخالفین میزبانی اروگوئه (کشورهای هلند، سوئیس و ایتالیا که خواستار میزبانی ایتالیا بودند)، تشکیل کمیته سازماندهی بازی‌ها، ایجاد یک صندوق مالی برای پشتیبانی این بازیها، بحرانهای اقتصادی اعضای اروپایی فیفا پس از جنگ و هم‌چنین عدم اجازه باشگاهها برای حضور بازیکنانشان در تیم ملی، گوشه‌ای از مشکلات بیشمار ژول ریمه بود. اما او سرانجام به خاطر تلاشهای طاقت‌فرسایش موفق شد تمامی این موانع را از میان بردارد و شاهد برگزاری جام جهانی فوتبال باشد. زمانی لبخند بر چهره ژول ریمه نقش بست که سه کشور بلژیک، رومانی و فرانسه با یک کشتی مسافرتی با تحمل یک مسافرت طاقت‌فرسا و طولانی به مونته ویدئو رسیدند تا در جام جهانی حضور یابند. بدین ترتیب جام جهانی با انسجام تشکیلات فیفا در تصمیم‌گیری و سازماندهی تولد یافت و امروزه به هیجان‌انگیزترین رویداد ورزشی جهان تبدیل شده است.

امروزه بیش از 212 کشور عضو فیفا هستند که اکثر آنها در رقابت‌های مقدماتی جام جهانی حضور می‌یابند. مقر فیفا در زوریخ کشور سوئیس قرار دارد که ساختمان آن در سال 1976 دایر شده است و تاکنون هشت نفر بر این تشکیلات عظیم ریاست کرده‌اند. از آنجایی که نظارت مستقیم بر تمامی کشورها از سوی فیفا امری بسیار دشوار است، از این رو در هر قاره کنفدراسیونی جداگانه توسط فیفا ایجاد شده است تا این کنفدراسیونها زیر نظر فیفا بر کار کشورهای قاره خود نظارت نمایند و مسابقات قاره‌ای را برگزار کنند.

رؤسای فیفا از زمان تأسیس تاکنون

روبرت گوئرین (فرانسه) - 1904 تا 1906
دانیل وولفال (انگلیس) - 1906 تا 1918
ژول ریمه (فرانسه) - 1920 تا 1954
رودلف ویلیام سیلدریز (بلژیک) - 1954 تا 1955
آرتور دریوری (انگلیس) - 1955 تا 1961
سراستانلی راس (انگلیس) - 1961 تا 1974
ژائو هاوه‌لانژ (برزیل) - 1974 تا 1998
یوسپ بلاتر (سوئیس) - 1998 تا امروز