In which case would one be more appropriate than the other?
1 Answer
This can be checked in a monolingual dictionary. For example 大辞泉 says:
き‐かい【機械/器械】
- 動力を受けて、目的に応じた一定の運動・仕事をするもの。
- 実験・測定・運動競技などに使う装置・道具。
自分の意思を失ったように、指令どおりに動いたり、物事を繰り返したりすること。
〔補説〕「工作機械」「包装機械」のように、動力を用いて操作する装置(マシン)を「機械」、「測定器械」「光学器械」のように、人間が直接動かし、比較的小型で小規模な装置や道具(インストルメント)を「器械」と使い分けることが多い。
To summarize the supplementary explanation (補説), 機械 is usually used for machines which make use of some motive force (like an electrical motor), 器械 is usually used for devices which are operated by humans directly (via a crank/handle, for example).
機械
器械
On the other hand, 大辞林 has
きかい【機械・器械】
① 動力源から動力を受けて一定の運動を繰り返し,一定の仕事をする装置。主に,きっかけを与えると人力を借りずに自動的に作動するものをいう。からくり。
② 精密な作動をする実験・測定用の装置。 「観測-」 〔規模の大きいものを「機械」,小さいものを「器械」と書いて区別することがある〕
③ (器械)うつわもの。器具。道具。
④ 書名(別項参照)。
mentioning that 機械 and 器械 may be used for large and small machines, respectively.
This loosely ties in with the explanation in 大辞泉, as very large machines are often too big to be used with a simple crank and make use of some motive force, whereas small machines often don't need any motor.