RDSでMariaDBの自動アップデートについて教えてください

バージョンアップにはダウンタイムが発生すると思います。
なので、事前に落としてもよい時間にアップグレードするなどの対応がよいかと思います。
https://docs.aws.amazon.com/ja_jp/AmazonRDS/latest/UserGuide/USER_UpgradeDBInstance.MariaDB.html

データベースエンジンをアップグレードするには、ダウンタイムが必要です。ダウンタイムの時間は、DB インスタンスのサイズによって異なります。

事前に準備しておくことはないと思いますが、アプリケーションが10.11.8で正常に動くかは事前にテスト用のDBを作成して確認しておくと安心だと思います。

有効期限が切れたRDS認証局を使用中

アプリケーションからRDSへのアクセスにSSLを使用していなければ放置でも問題はありません。(通知が邪魔とかであれば新しい証明書に更新してもよいと思います)
有効期限が切れている場合はSSLでアクセスができなくなっていると思いますので、現状アクセスができているのであれば特段対応は不要と考えております。

ご回答ありがとうございました。

心配だったのでRDS認証局は更新しました。 ダウンタイムが伴うということもあり、 別環境でMariaDB10.11.10で動作確認を行い、正常だったので自動アップデートを待たずにバージョンアップをおこないました。 問題なく運用を継続できました。

ありがとうございました。