Так говорят, если устраняют что-то, что возникло тем же способом. Когда кто-то использует те же действия, приёмы и средства, которые вызвали неприятную ситуацию. Есть такое латинское выражение similia similibus curantur — «подобное лечится подобным». Вот наше «клин клином» — это аналог. Англичане и французы говорят: «Один гвоздь выбивает другой».

Почему у нас фигурирует клин? М. И. Михельсон писал, что это связано со старой игрой в свайки. В ней воткнутая в землю свайка вышибается брошенной в неё такой же свайкой. А В. М. Мокиенко выдвигает другую версию: фразеологизм связан с реальной ситуацией при колке дров. Иногда поленья раскалывают, забивая клин в сделанную топором щель. Но клин может застрять в древесине. Чтобы его вытащить, приходится выбивать этот клин вторым клином.

Само слово «клин» происходит от того же корня, что и «колоть». «Исходное значение слова „клин“ — орудие для раскалывания в виде треугольного куска дерева или металла, затем — клинообразный участок земли», — пишет Н. М. Шанский.

Есть и другие выражения со словом «клин»: «подбивать клинья», «свет клином сошёлся», «куда ни кинь, так клин».