Съёмки картины начались 2 октября 2000 года в павильонах студии Leavesden Studios, расположенной примерно в 50 километрах от Лондона и в самом городе. Большая часть сцен, происходящих в Хогвартсе и рядом со школой, были сняты в кафедральных соборах городов Глостера и Дюрэма. Решение проводить съёмки в кафедральном соборе Глостера вызвало массовые протесты со стороны местных жителей. Многие негодующие письма были опубликованы в локальной прессе и обвиняли создателей фильма в святотатстве, угрожая не допустить съёмочную группу в собор. Правда, в день, на который было назначено начало съёмок, объявился только один протестующий местный житель. Сцены в госпитале и библиотеке школы были сняты в двух старинных строениях Оксфордского университета Oxford Divinity School и the Duke Humfrey Library. В качестве банка волшебников Гринготтс было использовано здание австралийского представительства в Лондоне. В соответствии с книгой съёмки также прошли в Лондонском зоопарке и на вокзале Кингс-Кросс. Завершился съёмочный процесс в июле 2001 года.
Коламбус посчитал необходимым, что при создании волшебных существ в фильме должны быть использованы и специально сконструированные двигающиеся механические модели (так называемая аниматроника), и компьютерная графика. Компьютерные спецэффекты были главным образом использованы при создании пещерного тролля и дракона Норберта. В сцене с пещерным троллем в туалете девочек Дэниэл Рэдклифф в реальности не висел на шее у тролля, поскольку резкие движения тролля могли запросто сломать ему шею. Изображение актёра было добавлено с помощью компьютерной графики.