English
There's two possible explanations here, and from a little bit of searching, it doesn't seem like anyone knows which is right (or that anyone's really thought much about it).
Option 1: Rendaku plus metathesis (as Earthling suggested). te + tsutau > tedzutau > tetsudau. There might be another example of this happening with 舌鼓 - shita + tsutsumi > shitadzutsumi > shitatsudzumi (though for this one the unmetathesised version seems to be valid in nonstandard dialects).
It's possible that this is a regular change restricted to words where the second half is at least tVtVCV. It might just be irregular.
Option 2: 手伝う is not actually 手 + 伝う, but something else entirely; with the kanji spelling the result of a folk etymology.
Those are the most likely possibilities.
Japanese
有り得る説明は二つありそうです。少し調べてみたら、どちらが正しいか誰もよく分からないみたいです(そもそも誰もあんまり考えてないみたいです)。
一。 「不規則連濁」(連濁プラス音位転換、Earthlingさんの仮説)。て+つたう → てづたう → てつだう。「舌鼓」はもう一つの例なのかもしれません - した+つつみ → したづつみ → したつづみ (けど「したづつみ」という非音位転換した方も標準外の方言で可能みたいです)。
後半がtVtVCVの言葉に限られる規則的な音便の可能性がありますが、単に不規則の可能性もあります。
二。 「手伝う」という言葉は実は「手+伝う」ではなくて、別の由来のある言葉だということ。その場合は漢字の由来は民間語源のはずです。
以上は最も有り得そうな可能性であるみたいです。