Вы можете использовать PPA для использования современных версий PHP, или установки прошлой версии PHP. (Например PHP 5.6 на Ubuntu 16.04 LTS)

Наиболее часто используется репозиторий от Ondřej Surý, Debian PHP разработчика:

ppa:ondrej/php (для PHP 5.6/7.0/7.1 и их подверсий, PHP 5.5 больше не поддерживается официально)

Пакет совместимости php5:
ppa:ondrej/php5-compat (для подмены php5 что бы разрешить зависимости со старыми пакетами (не точный перевод))

PHP PPA раньше содержал в себе Apache 2.4 обновления. Больше этих обновлений нет, они находятся в отдельном репозитории Apache 2.4:
ppa:ondrej/apache2 (для Apache 2.4)
В PHP начиная с версии 5.3 добавить логирование довольно просто.
Открываем файл /etc/php5/php.ini (или где он там у вас)
И добавляем 2 строчки:
mail.add_x_header = On
mail.log = /var/log/php.mail.log

mail.add_x_header - добавляет заголовок для всех исходящих сообщений.
mail.log - указывает путь к лог-файлу запускаемых скриптов, адресатов и заголовков.
Убедитесь чтобы этот файл был доступен на запить веб-серверу (обычно это пользователь www-data).
# touch /var/log/php-mail.log
# chown www-data:www-data /var/log/php-mail.log

Предлагаю компилировать из исходников версии 5.3.29 интерпретатор PHP, в Ubuntu 14.04.
Подготовка
#apt-get update
#apt-get install build-essential openssl libssl-dev openssl-blacklist openssl-blacklist-extra  bison autoconf automake libtool re2c flex apache-prefork-dev
#apt-get install libxml2-dev libssl-dev libbz2-dev libcurl3-dev libdb5.1-dev libjpeg-dev libpng-dev libXpm-dev libfreetype6-dev libt1-dev libgmp3-dev libc-client-dev libldap2-dev libmcrypt-dev libmhash-dev freetds-dev libz-dev libmysqlclient15-dev ncurses-dev libpcre3-dev unixODBC-dev libsqlite-dev libaspell-dev libreadline6-dev librecode-dev libsnmp-dev libtidy-dev libxslt-dev libt1-dev

Вычистим наш текущий php, в любом случае если что-то не получится мы без проблем сможем его установить заново.
Установка IonCube Loader на FreeBSD 8.3 x86_64

Скачиваем с сайта модуль подходящий для нашей архитектуры ОС:
# wget http://downloads2.ioncube.com/loader_downloads/ioncube_loaders_fre_8_x86-64.tar.gz

Распаковываем архив:
#tar -xvf ioncube_loaders_fre_8_x86-64.tar.gz

Смотрим версию PHP:
#php -v
PHP 5.2.17 with Suhosin-Patch 0.9.7 (cli) (built: Mar 16 2012 09:27:38) 
Copyright (c) 1997-2009 The PHP Group
Zend Engine v2.2.0, Copyright (c) 1998-2010 Zend Technologies
Установка ionCube PHP loader достаточно проста, для этого вам необходимо скачать данный модуль соответствующий архитектуре Вашей ОС с сайта разработчика IonCube.
Пример представлен по установке IonCube Loader на Debian 6.0 x86_64:

Скачиваем архив с сайта разработчика следующей командой:
wget http://downloads2.ioncube.com/loader_downloads/ioncube_loaders_lin_x86-64.tar.gz

Распаковываем архив выполнив команду:
# tar -xvf ioncube_loaders_lin_x86-64.tar.gz

Смотрим версию PHP командой:
#php -v
PHP 5.3.3-7+squeeze3 with Suhosin-Patch (cli) (built: Jun 28 2011 08:24:40) 
Copyright (c) 1997-2009 The PHP Group
Zend Engine v2.3.0, Copyright (c) 1998-2010 Zend Technologies

В соответствии с этой ошибкой, версия PHP 5.3.10, которая входит в Fedora 16 не включает libzip.

Но мне для Joomla требуется PHP-модуль libzip, его отсутствие очень сильно ограничивает возможности Joomla.