CHOICE_MODE_MULTIPLEからCHOICE_MODE_NONEにして選択を全部外すときにclearChoicesをしてもうまくいかないのでその対処法。

とか言いつつStack Overflowから。 android - Deselect seleted item in ListView - Stack Overflow

listview.clearChoices();
for (int i = 0; i < listview.getCount(); i++)
  listview.setItemChecked(i, false);
listview.post(new Runnable() {
  @Override
  public void run() {
    listview.setChoiceMode(ListView.CHOICE_MODE_NONE);
  }
});

これで解決。clearChoicesメソッドとは何だったのか。