ویلیامز پس از اتمام تحصیلاتش در آموزشگاه جولیارد به لوس آنجلس باز گشته و فعالیت حرفهای خود را در زمینه صنعت فیلم، توسط همکاری با آهنگسازانی چون «فرانتس وکسمن»، «برنارد هرمان» و «آلفرد نیومن» آغاز کرد و به خاطر چیره دستیاش در تصنیف موسیقی برای جاز، پیانو و سمفونی، توجه هالیوود را به خود معطوف نمود. او پس از سه بار نامزد شدن برای دریافت جایزه اسکار، نهایتاً در سال ۱۹۷۱ به خاطر عنوان بهترین تنظیم برای موسیقی فیلم ویولونزن روی بام برای نخستین بار موفق به دریافت این جایزه شد. در اوایل دهه هفتاد، ویلیامز خود را وقف آهنگسازی برای فیلمهای ژانر فاجعهای مانند حادثه پوزئیدون، زمینلرزه و آسمانخراش جهنمی نمود.
در ۱۹۷۴ استیون اسپیلبرگ، ساخت موسیقی متن فیلمش با نام شوگرلند اکسپرس را که نخستین تجربه کارگردانی او بهشمار میآمد، به جان ویلیامز پیشنهاد کرد. کارگردان جوان که تحت تأثیر موسیقی ویلیامز برای فیلم غارتگران قرار گرفته بود، اطمینان داشت که این آهنگساز میتواند آوای مورد نظرش را برای فیلمهای او خلق کند. یک سال پس از آن تاریخ، حاصل دومین همکاری این دوهنرمند، آروارهها بود. تم دلهرهآور به کار رفته در موسیقی چشمگیر این فیلم به خوبی نمایانگر احساس خطر و وحشت نزدیک شدن کوسههاست و در زمره شناختهشدهترین تمهای فیلمهای سینمایی تا به امروز قرار دارد. آروارهها دومین جایزه اسکار را اینبار، برای بهترین موسیقی نسخه اصلی نصیب وی کرد. این تیم دو نفره خود را برای ساخت فیلم بعدی، «برخورد نزدیک از نوع سوم» آماده میکردند. آنچه برای محصولات هالیوودی غیر معمول مینمود، پیشرفت همزمان این زوج یعنی اسپیلبرگ در فیلمنامه نویسی و ویلیامز در آهنگسازی بود. حاصل دو سال همکاری خلاقانه آنها ایجاد نغمهای بود که هم به عنوان موسیقی پس زمینه فیلم به کار میرفت و هم نمایانگر سیگنالهای ارتباطی سفینهٔ مادر موجودات بیگانه فیلم بود. برخورد نزدیک از نوع سوم به سال ۱۹۷۷ اکران شد.
در همین حول و حوش اسپیلبرگ، ویلیامز را به دوست و کارگردان همعصرش «جورج لوکاس» معرفی کرد. لوکاس بهدنبال آهنگسازی بود تا برای حماسه بلندپروازانه فضایی خود، جنگ ستارگان، موسیقی تصنیف نماید. ویلیامز موسیقی سمفونیک باشکوهی به سبک کارهای «ریچارد اشتراوس» و آهنگسازان «هالیوود عصر طلایی» چون «اریک ولفگانگ کورنگلد» و «مکس اشتاینر» آفرید. تم آغازین و اصلی این کار یا تم لوک تا به امروز در زمره مشهورترین قطعههای تاریخ قرار دارد و تم نیرو و همچنین تم پرنسس لیا مثالهای خوبی از لایتموتیف میباشند.[۹] هم فیلم و هم موسیقی متن آن با استقبال بیسابقهای که تا آن زمان هرگز دیده نشده بود، روبرو گشتند و موسیقی آن عنوان پرفروشترین موسیقی متن یک فیلم سینمایی در تاریخ را از آن خود کرد و جایزه اسکار دیگری را برای بهترین موسیقی نسخه اصلی برای خالقش به ارمغان آورد. در ۱۹۸۰ ویلیامز به کار ساخت دومین سری از سهگانه (تریلوژی) جنگ ستارگان، «امپراتوری ضربه میزند» روی آورده، به نحوی عالی قطعه مارش امپراتوری را به عنوان تم دارت ویدر و امپراتوری کهکشانی در فیلم ارائه نمود. سهگانهٔ اصلی جنگ ستارگان با فیلم بازگشت جدای در سال ۱۹۸۳ پایان یافت و ویلیامز در ساخت موسیقی این فیلم تم امپراتور و قطعه دوئل پایانی را به کارهای قبلیاش افزود که هردو کار نامزد دریافت جایزهٔ اسکار شدند.
تجربهٔ بعدی ویلیامز، همکاری با ریچارد دونرِ کارگردان برای ساخت موسیقی سوپرمن (۱۹۷۸) بود. تمهای قهرمانانه و رمانتیک موسیقی این فیلم به خصوص مارش اصلی، فانفار سوپرمن و تمی عاشقانه، موسوم به «آیا میتوانی فکرم را بخوانی» در هر چهار فیلم بعدی از این مجموعه به کار رفتند. ویلیامز در فیلم مهاجمان صندوق گمشده (۱۹۸۱) تم اصلی و هیجان آوری را با عنوان مارش مهاجمان برای همراهی با قهرمان فیلم ایندیانا جونز خلق نمود. همچنین تمهای جداگانهای برای صندوق عهد، ماریان کاراکتر فیلم و نازیهای تبهکار ساخت و در ساخت موسیقی دو سری بعدی از مجموعه فیلمهای ایندیانا جونز تمهای جدیدی افزود. ویلیامز برای فیلم دیگر اسپیلبرگ، ایتی موجود فرازمینی (۱۹۸۲) موسیقی پر احساسی تصنیف کرد که به خوبی حس کودکانه و معصومانه فیلم را بیان میدارد. به خصوص قطعه با روحی که بیانگر احساس آزادی هنگام پرواز است و یا قطعهای که با آوای ملایم سازهای زهی، القاگر حس دوستی بین دو کاراکتر اصلی فیلم، ایتی و الیوت میباشد. لحظههای وداع در سکانس نهایی فیلم از لحظات نادر تاریخ سینما به شمار میرود و حوادث روی صحنه در این سکانس برای مطابقت با اثر آهنگساز تنظیم شدهاند. ویلیامز چهارمین جایزه اسکار را برای اثر مذکور از آن خود نمود.
فیلم «رنگ ارغوانی» تنها فیلم اسپیلبرگ است که ویلیامز در ساخت موسیقی آن ایفای نقش نکردهاست، تولید کننده فیلم، «کوئینسی جونز» آهنگساز تمایل داشت تا خود شخصاً ساخت و تنظیم موسیقی این پروژه را به انجام رساند. ویلیامز همچنین برای فیلم «منطقه تاریک روشن» که اسپیلبرگ، کارگردان یک حلقه از مجموع چهار حلقه آن است، موسیقی تصنیف نکرده و وظیفه ساخت موسیقی آن توسط کارگردان و تولیدکننده اصلی فیلم جان لندیس به آهنگساز کهنهکار هالیوود و رقیب ویلیامز، جری گُلداِسمیت محول گردید. مشارکت ویلیامز و اسپیلبرگ با فیلم امپراتوری خورشید در ۱۹۸۷ از سر گرفته شد و تا به امروز ادامه یافتهاست. از فیلمهای پرهزینه و عامه پسندی مثل پارک ژوراسیک (۱۹۹۳) تراژدیهای غمناکی چون فهرست شیندلر (۱۹۹۳) و مونیخ (۲۰۰۵) تا ملودرامهایی با رنگ و بوی شرقی مانند سرگذشت یک گیشا (که نهایتا کارگردانی آن به راب مارشال سپرده شد)، همه و همه حاصل این همکاری میباشد. اسپیلبرگ در بسیاری از مناسبتها آهنگساز محبوبش را به حد افراط ستوده و از او به عنوان برترین آهنگساز تاریخ سینما یاد کردهاست.
در سال ۱۹۹۹ جورج لوکاس اولین فیلم از سهگانه دوم جنگ ستارگان را که وقایع آن از نظر زمانی پیش از سهگانه قبلی اتفاق میافتند، بر پرده سینما ظاهر ساخت. از ویلیامز خواسته شده بود تا موسیقی متن هر سه فیلم از این مجموعه را بسازد. در ساخت اولین آنها تهدید شبح تمهایی از سهگانه قبلی نیز فراخوانده شد و تمهای جدیدی به عنوان لایتموتیف در حملهٔ کلونها (۲۰۰۲) و انتقام سیت (۲۰۰۵) بهکار رفت. شاید در کارهای اخیر برجستهترین آنها «نبرد الهگان سرنوشت» (Duel of the Fates) باشد. قطعهای ستیزهجویانه با همخوانی گروه کُر و با اشعاری تند و تیز به زبان سانسکریت که دامنه اسلوبهای به کار رفته در موسیقی جنگ ستارگان را وسعت بخشید. ویلیامز برای دومین اپیزود، قطعه «در گذر از ستارهها» (Across the Stars)را تصنیف نمود که تمی بود عاشقانه برای دو کاراکتر جوان فیلم، پَدمه آمیدالا و آناکین اسکایواکر و بازتابی از تم عاشقانه به کار رفته در «امپراتوری ضربه میزند» از سهگانه پیشین. برای قسمت نهایی مجموعه یا اپیزود سوم ترکیبی از تمهای متعدد به کار رفته در کل مجموعه، به کار رفت. کمتر آهنگسازی در این حجم کاری برای فیلمهای دنبالهدار، موسیقی تصنیف کردهاست. کل مدت زمان موسیقی ساخته شده برای تمام شش فیلم سری جنگ ستارگان بالغ بر ۱۴ ساعت میباشد. (جان بَری آهنگساز انگلیسی، برای چندین سری از فیلمهای جیمز باند موسیقی ساخته و موسیقی آهنگساز کانادایی هاوارد شور برای اقتباس سینمایی پیتر جکسون از کتاب جی. ر. ر. تالکین، یعنی سهگانه ارباب حلقهها مجموعا از ۱۲ ساعت فراتر میرود.)
با رسیدن هزاره جدید، ساخت موسیقی فیلمهای هری پاتر که اقتباسی است از سری کتابهای پرفروش و محبوب نوجوانان با همین نام، به ویلیامز پیشنهاد شد. او موسیقی سه قسمت اول از این مجموعه را تصنیف کرد و یکی از بهترین تمهای ساخته شده توسط او، معروف به تم هدویگ در قسمتهای پنجم و ششم این مجموعه نیز به کار رفت. مانند تمهای آغازین جنگ ستارگان، آروارهها، سوپرمن و ایندیانا جونز، اکنون طرفداران بیشمار هری پاتر نیز با قطعهای از جان ویلیامز به تماشای آغاز این فیلم مینشینند.
در ۲۰ مه سال ۲۰۰۸، موسیقی ویلیامز برای فیلم ایندیانا جونز و پادشاهی جمجمه بلورین، دو روز پیش از اکران این فیلم به بازار ارائه شد. او به احتمال قریبالوقوع در پروژههای آتی اسپیلبرگ، فیلمهای لینکلن و بین ستارهای نیز شرکت خواهد کرد. همچنین اخیراً برای بازگشتش به اقتباس سینمایی آثار جی.کی.رولینگ و ساخت موسیقی سری هفتم یا آخرین سری از این مجموعه، هری پاتر و یادگاران مرگ تمایل نشان دادهاست.