Dazu müsste ich erstmal wissen, WAS an deinem Custom Eintrag nicht funktioniert hat ;)
Alles was ich sehe ist:
{USER}:{PASSWORD} https://*****/dns/custom/{HOSTNAME}
User/Pass sieht mir in dem Kontext nach HTAccess Zugriffsbeschränkung. Wenn du die ***** rein machst, kann man natürlich nicht sagen, was es für ein Dienstleister ist o.ä., daher wird das schwer ohne etwas mehr Info. Ansonsten:
Services / Dynamic DNS / Dynamic DNS Clients / Edit
Service Type: Custom
Interface to monitor: WAN
Send updates from: WAN
Verbose logging on
Username: {USER}
Password: {PASSWORD}
Update URL: https://*****/dns/custom/{HOSTNAME}
Je nachdem was beim manuellen Aufruf von https://*****/dns/custom/{HOSTNAME} ausgegeben wird, kann man ResultMatch noch mit einstellen, aber das wars.