コマンドに誤って一重引用符が付いた場合は、コマンドを修正しますか？

私はしばしばそうします：

user@machine: $ ls'
>
# Me: Argh! I did it again!
>'

: No such file or directory

デフォルトでは、コマンド入力が完了した後、誤って'Enterキーを押して閉じていない一重引用符が発生しました。削除するために前の行に戻ることができないため、構文エラーのあるコマンドを実行します。

これを元に戻して私のコマンドを修正する方法はありますか？