C'est un oiseau qui excelle dans l'art de grimper. Les pics accomplissent leurs ascensions en enfonçant leurs ongles recourbés dans l'écorce des arbres puis prenant appui sur leur queue, effectuent de petits sauts. Il s’agit du plus grand des pics européens. c'est un oiseau sédentaire, territorial et solitaire. Ses loges sont réutilisées comme nichoir par de nombreuses autres espèces comme la chouette de Tengmalm, le choucas des tours, des petits passereaux ou même la martre. Le pic noir pousse des cris puissants et son tambourinage constitué par la percussion avec le bec de branches ou de troncs secs peut être entendu à près d'un kilomètre.