Продолжая начатые отцом попытки распространить власть Москвы на все православные земли, второй правитель российского государства враждовал с Литвой. В начале правления, в 1506 году, когда умер польско-литовский король Александр, Василий даже предложил себя в великие князья литовские, но это наивное притязание, конечно, было отвергнуто: литовскую аристократию не прельщала судьба «государевых холопов», в условиях польской унии жилось намного привольней.
Тогда Василий стал добиваться своего военными средствами.
Первый удобный повод представился в 1508 году, когда против нового короля Сигизмунда I взбунтовался магнат Михаил Глинский (на чьей племяннице потом женится Василий). Москва немедленно поддержала мятеж, прислала свои войска, но получила отпор, и пришлось уйти ни с чем.
Через четыре года, когда у Сигизмунда I вновь возникли сложности (на сей раз с германскими соседями), Василий III опять этим воспользовался. Он отправил войско под стены Смоленска, чтобы взять этот стратегически важный город, от которого дед великого князя Василий II в 1449 году отказался «на вечные времена». После долгой осады Смоленск, не получив помощи от занятого другими бедами короля, сдался. Но это был единственный успех, которого сумел добиться московский государь.
Уже в следующем 1514 году его армия потерпела сокрушительное поражение в битве под Оршей. После долгих переговоров в 1522 году было подписано перемирие, по которому Смоленск остался за Москвой, но взамен Василий отказывался от притязаний на «всю Русь», то есть обменял журавля в небе на синицу в руках. Грандиозные усилия и траты дали очень скромный результат.