Майбутній учений-гуманітарій широкого профілю народився 17 грудня (4 грудня за ст. ст.) 1908 року у Харкові у родині полковника російської армії Володимира Карловича Шнейдера та Варвари Володимирівни Медер, що походили з родин етнічних німців. Невдовзі після народження сина батько, учасник Російсько-турецької війни 1877-78 років та Російсько-японської війни 1904-05 років був підвищений до командувача піхотного полку, а під час Першої світової війни командував бригадою у чині генерал-майора.
Через німецьке походження на Володимира Шнейдера, який віддано служив Росії, в армійських колах спадали підозри, через що він вирішив змінити прізвище та навіть по-батькові. Прізвище він шукав таке, що починалось б на літеру "Ш" (начебто через небажання перемічувати рушники, серветки та носовики) і було, за словами його сина, "виразно російське без крамоли та зради". У 1916 році з дозволу царя Володимир Карлович Шнейдер став Володимиром Георгійовичем Шевельовим, це ж прізвище отримала і вся родина. З 1918 року про долю Володимира Шнейдера-Шевельова нічого не відомо, очевидно, він загинув. Змінив своє ім'я і його син, якому не подобалось ім'я Георгій, під яким він був охрещений, — так з'явився Юрій Шевельов.
Любові до війська й військової служби Юрій від батька не успадкував. У 1931 році він закінчив літературний факультет Харківського інституту народної освіти. Щоб не привертати до себе зайвої уваги через своє "невідповідне соціальне походження", Шевельов одразу до аспірантури не вступив, працював викладачем української мови в Українському комуністичному газетному технікумі (згодом — училищі), а після його реорганізації — в Українському комуністичному інституті журналістики; виступав як театральний рецензент у тогочасних харківських газетах.
У 1936 році Шевельов став аспірантом Харківського педагогічного інституту, де навчався під науковим керівництвом відомого мовознавця Леоніда Булаховського. Через два роки, ще до захисту кандидатської дисертації на тему "Мова і стиль політичної лірики П.Г.Тичини" у червні 1939 року, він став доцентом Харківського державного університету.
Після початку Німецько-радянської війни Юрій Шевельов в евакуацію не виїхав. Він і далі працював у Харківському університеті, де завідував кафедрою української філології, друкувався у газеті "Нова Україна", журналах "Український засів" та "Пробоєм". У 1943 році, із наближенням до Харкова Радянської армії, виїхав до Львова, співпрацював у журналі "Наші дні". Продовжуючи лінгвістичні студії, написав монографію "Внесок Галичини у формування української літературної мови". Мовознавці вважають, що ця робота (вперше вона була опублікована у 1962 році), до сьогодні є найґрунтовнішим дослідженням західноукраїнського варіанта літературної мови та його ролі у становленні норм загальнонаціонального мовного стандарту.
З 1944 року для Юрія Шевельова почалась доба еміграції. До 1949 року перебував у таборах для переміщених осіб у Німеччині. У вересні 1945 року долучився до створення МУР'у ("Мистецького українського руху") — організації українських письменників, які проживали у таборах для переміщених осіб, був заступником голови організації. У 1947 році Юрій Шевельов розпочав довголітню працю в Українському вільному університеті (УВУ) у Мюнхені: спочатку як надзвичайний професор слов'янської філології, згодом — звичайний професор (до 1990 року). У 1949 році в УВУ він захистив докторську дисертацію на тему "До ґенези називного речення" під керівництвом професора Е.Кошмідера.
У 1950 році Юрій Шевельов полишив Німеччину та переїхав до Швеції, де викладав російську та українську мови в Лундському університеті. З 1952 року до кінця своїх днів жив і працював у Сполучених Штатах Америки — спочатку кілька років у Гарвардському університеті, а потім, через конфлікт із славістом Романом Якобсоном, перейшов професором на кафедру слов'янської філології Колумбійського університету в Нью-Йорку. На пенсію пішов у 1977 році.
Ставши членом Української вільної академії наук (УВАН) ще у Німеччині у 1948 році, Шевельов брав активну участь у розбудові її діяльності у США. Він двічі був президентом УВАН — у 1959-61 та 1981-86 роках. У 1954 році долучився до створення українського об'єднання українських письменників у діаспорі "Слово" (існувало до 1997 року), одночасно був членом Наукового товариства імені Шевченка в Америці, Американського лінгвістичного товариства, Польського інституту мистецтв і наук у США, членом редколегії "Енциклопедії українознавства", де редагував цикл мовознавчих статей та написав значну їх частину. У 1978-81 роках працював головним редактором часопису "Сучасність".
Як автор майже дев'яти сотень праць, написаних українською, англійською, німецькою, російською, польською та французькою мовами, Юрій Шевельов (публіцистичні та літературознавчі праці він часто підписував псевдонімами Юрій Шерех, Григорій Шевчук та ін.) вважається одним із провідних славістів світу. Головним об'єктом його зацікавлень була проблема слов'янського та українського етногенезу, якій він присвятив три фундаментальні англомовні монографії, останньою з яких була "Історична фонологія української мови", що вийшла у 1979 році в Гейдельберзі. В цих роботах, спираючись на величезний за обсягом матеріал писемних пам'яток та діалектних фактів, він зробив висновок про походження української мови безпосередньо із спільнослов'янської, час розпаду якої на окремі слов'янські мови відносив до VI-VII століть. Цією теорією Шевельов спростував популярну концепцію російських мовознавців (Олексія Шахматова та інших) про існування спільної східнослов'янської (тобто "загальноруської") мови як попередниці трьох сучасних східнослов'янських мов — української, російської та білоруської.
У 2000 році за книги "Третя сторожа. Література. Мистецтво. Ідеології", "Поза книжками і з книжок" Юрій Шевельов став лауреатом Шевченківської премії.
Надзвичайно цікавими є численні статті Юрія Шевельова не лише з мовознавства, а й з літературознавства, театрознавства, історії мовознавства тощо, а також його спогади "Я, мені, мене... (і довкруги). Спогади", які вперше вийшли друком у 2001 році в Нью-Йорку .
Помер Юрій Шевельов 12 квітня 2002 року в Пресвітеріанській лікарні у Нью-Йорку на 94-у році життя і був похований біля матері на міському кладовищі міста Кембридж (штат Массачусетс, США) неподалік від Гарвардського університету.
У жовтні 2013 року Український центр Міжнародного ПЕН-клубу, Києво-Могилянська бізнес-школа, Український науковий інститут Гарвардського університету та видавництво "Дух і Літера" заснували літературну премію імені Юрія Шевельова, яка щороку вручається за досягнення в галузі есеїстики.