«Торба» — это тюркское слово, которое означает «мешок, сума, носимые на плече, через плечо (обычно у нищего, странника)». Ещё так в шутку называют большую сумку. Второе значение «торбы» — мешок с овсом, надеваемый на морду лошади для кормления.

Но последнее вряд ли имеет отношение к нашей фразе. Лошадь с торбой не носится, а спокойно и деликатно ест. Персонажем фразеологизма чаще бывает «дурень» или «чёрт», что навевает мысль всё-таки о сумке.

В «Записках императорского географического общества по отделению этнографии» 1867 года я нашла необычное определение:

«Носиться как писаная торба — говорят с насмешкою о женщине проворной, вертлявой, особенно в пирушке или танцах. Писаная торба, по-видимому, значит почтальонская сумка, в которой разносятся письма».

Видите, здесь уже не персонаж носится, а сама торба в пляс пошла. И никакого дурня рядом не намечается: напротив, появилась какая-то нескромная женщина, которая изволит веселиться в общественных местах.