Родился 19 июля 1894 года в селе Кондрово Медынского уезда Калужской губернии.
После окончания реального училища поступил в 1911 году на физико-математический факультет Московского университета. Вел научную работу под руководством Н.Н.Лузина.
После окончания университета в 1916 году Александр Яковлевич был оставлен для подготовки профессорского звания. Его педагогическая работа началась в 1918 году. С 1922 года он получил профессуру в Московском университете. Заведовал кафедрой теории вероятностей, затем кафедрой математического анализа (1943-1957), был директором НИИ математики и механики МГУ (1932-1934).
Член-корреспондент АН СССР с 1939 года. В 1941 году стал лауреатом государственной премии СССР. Действительный член Академии педагогических наук, один из ее основателей (1943). Награжден четырьмя орденами, в том числе орденом Ленина.
А.Я. Хинчин — один из самых блестящих представителей Московской математической школы, выдающийся лектор и автор математической литературы. Им получены основополагающие результаты в теории функций действительного переменного, теории чисел, теории вероятностей, статистической физике. Хинчиным опубликовано более 150 научных работ, в том числе 4 монографии по теории вероятностей, 3 — по статистической физике, 2 — по теории чисел.