Il y a deux manières de procéder.
Dans la méthode qui ouvre la boîte de dialogue, passez l'option de configuration suivante en disableClosetant que deuxième paramètre MatDialog#open()et définissez-la sur true:
export class AppComponent {
  constructor(private dialog: MatDialog){}
  openDialog() {
    this.dialog.open(DialogComponent, { disableClose: true });
  }
}
 
Vous pouvez également le faire dans le composant de dialogue lui-même.
export class DialogComponent {
  constructor(private dialogRef: MatDialogRef<DialogComponent>){
    dialogRef.disableClose = true;
  }
}
 
Voici ce que vous recherchez:

Et voici une démo de Stackblitz
Autres cas d'utilisation
Voici quelques autres cas d'utilisation et extraits de code expliquant comment les implémenter.
Autoriser escà fermer la boîte de dialogue mais interdire de cliquer sur le fond pour fermer la boîte de dialogue
Comme l'a dit @MarcBrazeau dans le commentaire ci-dessous ma réponse, vous pouvez autoriser la escclé à fermer le modal mais toujours interdire de cliquer en dehors du modal. Utilisez ce code sur votre composant de dialogue:
import { Component, OnInit, HostListener } from '@angular/core';
import { MatDialogRef } from '@angular/material';
@Component({
  selector: 'app-third-dialog',
  templateUrl: './third-dialog.component.html'
})
export class ThirdDialogComponent {
  constructor(private dialogRef: MatDialogRef<ThirdDialogComponent>) {      
}
  @HostListener('window:keyup.esc') onKeyUp() {
    this.dialogRef.close();
  }
}
Empêcher escde fermer la boîte de dialogue mais autoriser le clic sur le fond pour fermer
  PS C'est une réponse qui provient de cette réponse , où la démo était basée sur cette réponse.
Pour empêcher la escclé de fermer la boîte de dialogue mais permettre de cliquer sur le fond pour fermer, j'ai adapté la réponse de Marc, ainsi que MatDialogRef#backdropClickpour écouter les événements de clic sur le fond.
Initialement, la boîte de dialogue aura l'option de configuration disableClosedéfinie comme true. Cela garantit que le fait d' escappuyer sur une touche, ainsi que de cliquer sur le fond ne provoquera pas la fermeture de la boîte de dialogue.
Ensuite, abonnez-vous à la MatDialogRef#backdropClickméthode (qui émet lorsque le fond est cliqué et revient en tant que a MouseEvent).
Bref, assez de discussions techniques. Voici le code:
openDialog() {
  let dialogRef = this.dialog.open(DialogComponent, { disableClose: true });
  /*
     Subscribe to events emitted when the backdrop is clicked
     NOTE: Since we won't actually be using the `MouseEvent` event, we'll just use an underscore here
     See https://stackoverflow.com/a/41086381 for more info
  */
  dialogRef.backdropClick().subscribe(() => {
    // Close the dialog
    dialogRef.close();
  })
  // ...
}
Vous pouvez également le faire dans le composant de dialogue:
export class DialogComponent {
  constructor(private dialogRef: MatDialogRef<DialogComponent>) {
    dialogRef.disableClose = true;
    /*
      Subscribe to events emitted when the backdrop is clicked
      NOTE: Since we won't actually be using the `MouseEvent` event, we'll just use an underscore here
      See https://stackoverflow.com/a/41086381 for more info
    */
    dialogRef.backdropClick().subscribe(() => {
      // Close the dialog
      dialogRef.close();
    })
  }
}
     
              
@HostListener('window:keyup.esc') onKeyUp() { this.dialogRef.close(); }