Когда мы говорим «вверх тормашками», то кажется, что «тормашки» — это название какой-то части тела или какого-то элемента, которое склоняется как существительное. Поэтому хочется сравнить их с «ногами» или частью механизма.

Однако если открыть ранние издания, станет понятно, что слово «тормашки» раньше не склонялось.

У Даля: «Тормашки полетел, вверх тормашки, перекувыром, через голову, вверх ногами. Полетел от Машки вверх тормашки!»

В Большом толковом словаре Михельсона указаны и такие примеры: «Случайная встреча — и все пошло у дяди, как говорится, вверх тормашками». «Ну, так я с его капель-то чуть вверх тормашки не полетел».

Вероятно, со временем неудобное «тормашки» стали склонять. Поэтому сейчас «вверх тормашки» никто не говорит: только «вверх тормашками». Именно в таком виде наречие закреплено в современных словарях.