На видеокартах Nvidia: …

1. Ставим последние проприетарные драйвера:

sudo add-apt-repository ppa:ubuntu-x-swat/x-updates
sudo apt-get update
sudo apt-get install nvidia-current

2. Устанавливаем пакет vdpau-va-driver.

sudo apt-get install vdpau-va-driver

3. В VLC-плеере настраиваем:
Настройки → Ввод и кодеки → Использовать видеоускоритель включаем.

Ссылки по теме:
Аппаратная поддержка HD видео (wiki)
Как установить свежие драйвера Nvidia/Nvidia Optimus в Ubuntu