なぜエラー -89125が発生するのでしょうか。

もし、RTSIケーブルを使用している場合、MAXで正しく作成もしくは構成をされていない可能性があります。
まずMAXでRTSIケーブルを作成してからデバイスを追加してください。
MAXにおけるRTSIケーブル作成方法は
ヘルプ>> ヘルプトピック>>NI-DAQmxの中にあるNI-DAQmx用MAXヘルプ　をご参照ください。
ヘルプを開いたら、RTSIを検索してください。リストの最初に「RTSI構成」というトピックがあります。

さらに詳細な説明は、以下のKnowledgeBase What is RTSI and How is it Configured?を合わせてご参照ください。