Узнать параметры запуска можно, выполнив в терминале
compton --help
Постепенно усложняя строку запуска, можно получить желаемые эффекты. Например, строку запуска сделать такой:
compton -c -m 1 -o .30 &
Старайтесь тестировать настройки некоторое время. Некоторые настройки Compton при их включении вызывают проблемы в других программах, например, в Chromium-браузерах пропадают меню. В этом случае, используйте конфигурацию попроще.
P. S.: не запускайте несколько экземпляров compton, выгружайте его из памяти, а затем запускайте с изменёнными параметрами. Выгрузить можно командой sudo killall compton