ユーザーがシステムを利用して自動化を実現する際のエンドツーエンドのフローです。
マクロ記録および実行時における、入力中テキストフィールドの動的探索と、IME変換状態を考慮した確定文字の抽出プロセスは以下の通り進行します。
src/core/recorder/input_listener.py がキー入力を監視し、タイピングバッファを構築します[cite: 6]。この際、src/core/recorder/ime_detector.py のWindows APIを用いて現在のIME状態(全角/半角)を判定します[cite: 5, 6]。IMEが有効な場合は、src/core/recorder/romaji_converter.py によりローマ字バッファをひらがなに変換し、OCR用の検索文字列を生成します[cite: 6, 10]。text_field_search イベントが発火すると、非同期での画面変化の取りこぼしを防ぐため、即座に同期で画面キャプチャを取得します[cite: 6]。取得した画像に対し、CVおよびOCRエンジンを適用し、生成した検索文字列に合致するテキストフィールドの領域(バウンディングボックス)を特定・クロップします。text_candidate_confirm イベントを発火し、バッファをフラッシュします[cite: 6]。src/core/recorder/event_processor.py および src/core/recorder/state.py は、後段の変数化処理を阻害しないよう、探索用の内部イベント(text_field_search, text_candidate_confirm)を実際のログから除外します[cite: 4, 12]。最終的に確定したキー入力操作のみを、IMEのアクティブ状態フラグとともにシステムに記録します[cite: 4]。