Выдающийся пианист, композитор, дирижёр, педагог и музыкально-общественный деятель А.Г. Рубинштейн родился 16 (28) ноября 1829 года в деревне Выхватинец Подольской губернии. Происходил из небогатой еврейской купеческой семьи. В 1835 году родители его переселились в Москву, где отец завел карандашную фабрику. Там же, в Москве, родился младший брат Антона Николай Рубинштейн (1835-1881), ставший позднее основателем Московской консерватории. Первые уроки фортепианной игры давала Рубинштейну его мать, которая была очень музыкальна, а в 1837-1842 годах с мальчиком, подающим большие надежды, безвозмездно занимался известный пианист А. Виллуан, которого Рубинштейн называл своим вторым отцом. Тринадцати лет Антон Рубинштейн закончил свои уроки музыки и больше на фортепиано уже не учился ни у кого. Десятилетним мальчиком он дал свой первый концерт в Москве, а в 1840-1843 годах с триумфом концертировал в европейских городах. Уже в эти годы были изданы его первые музыкальные сочинения.
В 1844 году мать Рубинштейна, взяв с собой Антона и младшего сына Николая, поехала в Берлин с целью дать детям серьезное музыкальное образование. Там оба брата стали заниматься теорией музыки у З.Дена. До 1848 года Антон Рубинштейн жил за границей (Берлин, Вена), встречался с Ф.Мендельсоном и впоследствии с Ф.Листом, оказавшими влияние на формирование его творческой личности. В 1848 году он возвратился в Россию и благодаря покровительству великой княгини Елены Павловны поселился в Петербурге, выступал как пианист и дирижёр (главным образом с собственными произведениями).
В 1850 году А.Г. Рубинштейн написал свою первую оперу - "Куликовская битва" ("Дмитрий Донской"), в 1851 году - 2-ю симфонию ("Океан"). В 1854-1858 годах он вновь жил за границей, концертировал в странах Западной Европы, завоевав славу одного из величайших пианистов современности. С этого времени началась его широкая концертная деятельность. За рубежом были окончены и исполнены оратория "Потерянный рай" (1856), вокальный цикл "Персидские песни" (1854).
По возвращении в Россию (1858) Рубинштейн занялся музыкально-общественной деятельностью. В 1858 году по его инициативе и под его руководством была организована Певчая академия, а в 1859 году - Русское музыкальное общество. Рубинштейн вошёл в состав дирекции, участвовал в качестве дирижёра и пианиста во всех концертах общества, возглавил открытые обществом в 1862 году в Петербурге первые в России Музыкальные классы (в 1873 году получившие название Консерватории). В 1862-1867 годах Рубинштейн был профессором и первым директором Консерватории. Эта работа осложнялась столкновениями с придворными кругами, а также острой борьбой с А.Н. Серовым, В.В. Стасовым и членами "Могучей кучки" по вопросу о роли национального начала и значения профессионального музыкального образования в развитии русского музыкального искусства.
В эти годы значительно сократились выступления Рубинштейна-пианиста, но интенсивной оставалась композиторская деятельность: он написал оперу "Фераморс" (1862), 4-й концерт для фортепиано с оркестром (1864). В 1867 году А.Г. Рубинштейн ушёл из консерватории и Русского музыкального общества. В конце 1860-х годов он на некоторое время сблизился с композиторами "Новой русской музыкальной школы". Возобновилась его интенсивная пианистическая деятельность. Среди произведений этих лет - лучшая опера "Демон" (1871, была запрещена театральной цензурой, затем поставлена с большим успехом в 1875 году в Петербурге и в 1879 году в Москве).
В начале 1870-х годов Рубинштейн совершил концертную поездку по многим городам Европы, везде имея оглушительный успех. Был художественным руководителем и главным дирижёром Общества друзей музыки в Вене (1871-1872), а затем вместе со скрипачом Г. Венявским успешно выступал в США (1872-1873).
Вернувшись в Россию, Рубинштейн поселился на своей даче в Петергофе, отдавшись композиции. В сезоне 1882-1883 года он был приглашен дирижировать симфоническими концертами Русского музыкального общества, но кульминацией его концертной деятельности были грандиозные по масштабам Исторические концерты (1885-1886) в крупнейших городах Европы, в которых он дал картину эволюции фортепианной музыки от её истоков до произведений современных русских композиторов.
В 1887 году возобновилась активная музыкально-общественная деятельность Рубинштейна. Он вновь возглавил Петербургскую консерваторию, вёл класс фортепиано, прочел (дважды) курс лекций-концертов по истории фортепианной музыки, вызвавший огромный интерес у русских музыкантов, дирижировал концертами Русского музыкального общества, выступил с проектом организации в стране всеобщего музыкального воспитания, настаивал на открытии государственных консерваторий, добился нового помещения для Петербургской консерватории. В 1889 году в Санкт-Петербурге был торжественно отпразднован полувековой юбилей артистической деятельности А.Г. Рубинштейна, а император Александр III по ходатайству петергофских жителей присвоил композитору звание Почетного гражданина Петергофа.
Вторичный уход из консерватории (1891) был вызван травлей, которой подверглась деятельность Рубинштейна со стороны реакционной прессы, и главным образом осознанием невозможности осуществления широких музыкально-просветительских планов в условиях царской России. Последние годы жизни (1891-1894) А.Г. Рубинштейн провёл преимущественно в Дрездене; изредка выезжал в другие города на благотворительные концерты, занимался литературной, педагогической и композиторской работой.
Создатель русской пианистической школы А.Г. Рубинштейн умер 8 (20) ноября 1894 года на своей даче в Старом Петергофе (ныне Петродворец), лишь несколько дней не дожив до своего 65-летия. Похоронили музыканта в Петербурге, на Никольском кладбище Александро-Невской лавры, однако в 1938 году прах его был перенесен в Некрополь мастеров искусств (Тихвинское кладбище). На новом постаменте (арх. В.Э. Митник, 1938) установили старый, еще прижизненный, бюст композитора (ск. Б.Реймер, 1889). Могила А.Г. Рубинштейна находится на Композиторской дорожке, напротив могил Бородина и Мусоргского.
Как виртуоз-пианист, он не имел соперников. Число его сочинений достигло 119, не считая 12 опер и немалого количества фортепианных произведений и романсов. В 2005 году был торжественно открыт памятник А.Г. Рубинштейну в Петергофе, где композитор проживал многие годы.