С шести лет мать обучала Антона игре на фортепиано, а с восьми – приглашённый француз Александр Виллуан. После первого публичного выступления в Москве в 1839 г Рубинштейн в сопровождении матери и учителя совершил трёхлетнее концертное турне по городам Европы, во время которого познакомился с Феликсом Мендельсоном-Бартольди.
Хотя Феликс был старше Антона на 19 лет, у них было много общего.
Мендельсон – родной внук того самого основателя Хаскалы, его отец тоже крестился вместе с семьей, причём со сменой фамилии на Бартольди. Вопреки уговорам отца принять новую фамилию, Феликс выступал под именем Феликс Мендельсон и неоднократно укорял сестру за её недостаточный интерес к своему еврейскому происхождению.
В доме отца бывали философ Георг-Вильгельм Гегель, путешественник Александр Гумбольдт и писатель Эрнст-Теодор-Амедей Гофман со своим знаменитым котом Мурром.
И хотя Берлин – это вам не Бердичев, юридически евреи в Пруссии получили равноправие, но и там антисемитизм процветал. В 1832 г. после восторженного приёма в Лондоне Мендельсон вернулся в Берлин после триумфального европейского турне, где в начале 1833 г. был забаллотирован из-за еврейского происхождения на выборах директора певческой академии. Даже поддержка прусского короля не дала ему возможность открыть там консерваторию, поэтому первое в Германии такое учебное заведение он открыл в Лейпциге, во владениях короля Саксонии.
Но это случится в 1843 году, когда Антон с матерью вернутся в Москву.
После нескольких концертов в Москве и Петербурге Рубинштейн и его младший брат Николай обучались в 1844–1845 гг. теории музыки в Берлине у 3. В. Дена, который до этого учил Михаила Глинку. В 1846 г. Рубинштейн давал концерты и частные уроки в Вене.
«С 1846 г. Р. начинает самостоятельную жизнь, переселяется в Вену, где незадолго до того имел успех, рассчитывая найти здесь поддержку. Но надежда на Листа и на высокопоставленных лиц не оправдалась. Лист сказал, что для того чтобы сделаться великим человеком, надо рассчитывать только на собственные силы и приготовиться к тяжёлым испытаниям.
В течение двух лет Р. пришлось жить впроголодь, бегать по грошовым урокам, петь в церквах. И здесь-то 17-летний юноша закалил свой характер и приобрёл житейский опыт. Под конец пребывания Р. в Вене положение его несколько улучшилось благодаря неожиданной помощи Листа. После удачной концертной поездки по Венгрии Р. вернулся в Россию», – пишет исследователь его творчества Давид Черномордиков.
В тот год в Москве у Антона умер отец, а в следующем году не стало Феликса Мендельсона, когда Рубинштейн концертировал и репетиторствовал в Берлине.
В 1848 г. Антон вернулся в Россию, сблизился с музыкальной общественностью Петербурга, а в 1850 г. дебютировал как дирижёр. Он также нередко выступает как пианист при дворе, имея большой успех у членов императорской семьи и лично у императора Николая I.
В столице его дела пошли в гору благодаря покровительству великой княгини Елены Павловны. В 1852 году он стал её личным аккомпаниатором. Тогда же он впервые подаёт проект открытия в Петербурге певческой академии, но безрезультатно. Пока безрезультатно.