Джон Девісон Рокфеллер народився в 1839 році в штаті Нью-Йорк у багатодітній протестантській родині. Його батько був лісорубом і мандрівним торговцем, мати — набожна баптистка — займалась домашнім господарством. Сім'я бідувала і Джон з семи років почав працювати, а в школу пішов лише в дванадцять. Успішно закінчивши її, постув у коледж, проте кинув його, закінчив бухгалтерські курси і в 16 років найнявся помічником бухгалтера у Клівленді, штат Огайо. Досить швидко зарекомендував себе професіоналом і у 18 років став керуючим компанії, що займалась нерухомістю.
Це була його перша і остання робота по найму — вважаючи, що його недостатньо цінують, Рокфеллер цього ж року став молодшим партнером торгівельної компанії «Кларк і Рочестер», вклавши в бізнес власні 800 доларів і 1200, позичених у батька під 10% річних. Компанія займалась продажем продуктів для потреб армії, що виявилось досить прибутковим напередодні Громадянської війни. В 1859 році Рокфеллер познайомився з хіміком Семюелем Ендрюсом, який переконав його у перспективності бізнесу з переробки нафти для отримання гасу. На паритетних умовах вони разом з компанією «Кларк і Рочестер» заснували нову фірму «Ендрюс і Кларк», яка збудувала в Клівленді нафтопереробний завод.
За рахунок таємних домовленостей з місцевою залізницею компанія Рокфеллера мала найнижчі ціни на транспортування нафти, що приводило до розорення конкурентів, підприємства яких Рокфеллер скуповував. В 1870 році він об'єднав їх у нову компанію Standard Oil зі статутним капіталом 1 мільйон доларів, в якій Рокфеллеру належало 27%. Цього ж року він через підставних осіб став власником залізничної транспортної компанії Union Tanker Car Company, яка володіла не лише залізницею, але й герметичними залізничними цистернами для транспортування нафти. Рокфеллер здавав їх в оренду конкурентам Standard Oil — коли вони досягали значних масштабів у виробництві і транспортуванні, Union Tanker в односторонньому порядку розривала угоди оренди цистерн, що приводило до розорення конкурентів. Standard Oil скуповувала збанкрутілі компанії разом з їх виробничими і транспортними потужностями.
Все це дало можливість Standard Oil до 1880 року контролювати 95% переробки нафти у США. Через два роки Рокфеллер об'єднав 40 корпорацій індустрії в траст Standard Oil Trust, який контролював практично всю нафтопереробку країни, і в 1894 році Джон Рокфеллер став першим в історії США доларовим мільярдером. Його ім'я стало символом багатства — крім Standard Oil Trust він володів шістнадцятьма залізницями, шістьма сталеливарними компаніями, шістьма пароплавствами, дев'ятьма банками та численними земельними ділянками.
В 1904 році махінації Рокфеллера з транспортними перевезеннями стали предметом судових розслідувань і, не чекаючи його завершення, Рокфеллер ліквідував Standard Oil Trust. Після численних звинувачень у порушенні антимонопольного законодавства в 1911 році уряд США зобов'язав розділити компанію Standard Oil — монополія розпалась на 34 компанії, в кожній з яких Рокфеллер мав контрольний пакет акцій (до наших днів існують такі гіганти як Exxon, Chevron та Mobil). Після Першої світової війни вартість нафтопереробних компаній значно зросла, що вп'ятеро збільшило статки як самого Рокфеллера, так й інших колишніх акціонерів Standard Oil.
Вважаючи себе бізнесменом-християнином, Рокфеллер з дитячих років перераховував 10% своїх прибутків Бабтистській церкві; в 1905 році це складало 105 мільйонів на рік. В 1892 році він фінансував заснування Чикагського університету, в 1901-у — заснував Рокфеллерівській медичний університет в Нью-Йорку, а в 1913 році створив Фонд Рокфеллера — благодійну організацію і приватний фонд для «сприяння благополуччю людства» зі статутним фондом у 35 мільйонів доларів (у 2006 році фонд мав активів на суму 3,7 мільярдів). Протягом багатьох років Рокфеллер фінансово підтримував численні навчальні заклади (в тому числі Єльський, Гарвардський і Колумбійський університети), медичні програми як у США, так і за його межами, благодійні акції Бабтистської церкви.
Під час напружених 1890-х років Рокфеллер захворів на алопецію — до 1901 року він зовсім полисів і став носити перуки. Депресія, яка тривалий час супроводжувала Рокфеллера, поступово відступила, коли він залишив безпосереднє управління бізнесом в 1902-у. Він помер 23 травня 1937 року, не доживши двох місяців до свого 98-річчя, у своєму маєтку у Флориді і був похований у Клівленді, штат Огайо.
У загальній складності Рокфеллер пожертвував на благодійність близько 550 мільйонів доларів з 1,4 мільярдів (за даними «Форбс» — 318 мільярдів в цінах 2007 року), якими володів на 1937 рік, і 460 мільйонів залишив у спадок своєму синнові, Джону Рокфеллеру-молодшому, який примножив статки батька і також став визначним благодійником.