what's the difference between ところで and ちなみに ?
Are they always/often/seldom interchangeable?
Yes, as a sentence opener, they are mostly identical and definitely interchangeable.
As for details and nuances, cursory Googling yielded this:
「ちなみに」は今まで話していた内容に何か付け加えるときや、 その内容と関係があるけど、少し別の方向へ話を発展させるときに使います。
A: この大学には、学部生が500名、大学院生が50名います。 B: ちなみに、そのうち女性は何割ぐらいですか。
「ところで」は、今まで話していた内容とは全然違うことを言うときに使います。でも、その新しい話は今まで話していたことから思いついた場合が多いです。
「おかげさまで、こちらはみんな元気です。 ところで、先日、そちらに品物を送ったんですが、もう届いていますか。」
The gist of which is: ちなみに would be introducing a new topic that is (however loosely) connected to the conversation so far, while ところで would be for absolute non-sequuntur.
However, as it also points out, ところで will often introduce a "new" subject that came to the speaker's mind because of the previous subject (and is therefore not all that disconnected).
Bottom line, they are pretty much interchangeable (but the nuance exists).
Note: make sure not to confuse ところで with its many variants (and their plentiful meanings): ところです, ところが etc.