اولین پالایشگاه جهان در رومانی و در شهر پولشیتی، در سال ۱۸۵۶ ساخته شده، تا قبل از جنگ جهانی دوم چندین پالایشگاه دیگر نیز با سرمایهگذاری شرکتهای آمریکایی در همان محل تأسیس گردید. اکثر این پالایشگاهها در طی بمباران نیروی هوایی آمریکا در طی جنگ از کار افتادند. پس از این حادثه این پالایشگاهها نو سازی گردیدهاند. پالایشگاه قدیمی دیگر پالایشگاه با نام Oljeon میباشد که هم اکنون به عنوان موزه در میراث جهانی یونسکو به عنوان سایت انگلسبرگ ثبت شده است.
پالایشگاههای اولیه در ایالاتمتحده تنها نفت سفید را پالایش میکردند و مابقی محصولات پالایش نشده به نزدیکترین رودخانه تخلیه میگردید. با اختراع اتومبیل، پالایشگاهها به سمت تولید بنزین و سوخت دیزل هدایت شدند که تا به امروز به عنوان اصلیترین فراورده پالایشگاه شناخته میشوند. پس از نیمه دوم قرن بیستم در ایالاتمتحده سازمانهای محیطزیست قوانین بسیار محدودکنندهای برای احداث پالایشگاههای جدید (از نظر آلودگیهای آب و هوا) وضع نمودهاند. این شرایط احداث پالایشگاههای جدید در آمریکا را بسیار محدود و پرهزینه کرده است بطوریکه آخرین پالایشگاه نفت احداث شده در ایالاتمتحده مربوط به سال ۱۹۷۶ میباشد.
در ایران نیز اولین پالایشگاه در آبادان ساخته شد. پس از کشف نفت در شهر مسجد سلیمان در سال ۱۲۸۷ لزوم ایجاد یک پالایشگاه نفت برای تصفیه نفت ضروری بود، به همین دلیل عملیات ساخت این پالایشگاه در سال ۱۲۸۸ توسط مهندسان شرکت نفت ایران و انگلیس آغاز گردید. در سال ۱۲۹۱ عملیات ساخت آن به پایان رسید و پالایشگاه وارد مدار تولید گردید.