Некоторое время халиф, хотя и не слишком умелый и энергичный рабочий, зарабатывал себе на жизнь гончарным делом, но потом ему надоела тяжелая работа и он присоединился к каравану, направлявшемуся в Палестину. В Иерусалим он прибыл нищим. Однажды, бродя по улицам, он остановился у лавки, торгующей циновками.

– Почему ты так внимательно на меня смотришь? – спросил хозяин. – Знаешь ремесло?

– Увы, нет, – ответил Хишам. – Но я умираю с голоду.

– Оставайся, – ответил хозяин. – Ты будешь собирать для меня тростник, а я – платить за твою работу.

Хишам с благодарностью принял предложение и через некоторое время научился весьма прилично плести циновки. Прошло несколько лет, и в 1033 году Хишам вернулся в Испанию. Сначала он объявился в Малаге, потом, в 1035 году, в Альмерии и затем, изгнанный принцем Зухайром из своих владений, осел в Калатраве.

Эта история, легко принятая на веру жителями, представляется крайне маловероятной. Известно, что, когда Яхья угрожал Севилье и Кордове, в Калатраве был торговец циновками по имени Халаф, очень похожий на Хишама. Но нет никаких свидетельств того, что это действительно был прежний халиф. Историки Ибн-Хайян и Ибн-Хазм – люди Омейядов, а значит, в их интересах признать Хишама – энергично отрицают какую-либо связь между Халафом и халифом. Халаф, однако, был честолюбив. Часто слышал о своем сходстве с Хишамом, он заявил, что действительно является монархом. Он не был уроженцем Калатравы, и поэтому сограждане ему поверили. Они пошли еще дальше – признали его своим сувереном и восстали против своего правителя, Исмаила ибн Дхун-Нуна, принца Толедо. Тогда принц осадил город. Защитники вскоре сдались, изгнали самозваного Хишама и вернулись к прежней жизни.

Но Халаф еще не сыграл свою роль до конца. На самом деле он только начал. Кади Севильи очень быстро понял, как можно использовать предполагаемое возвращение Хишама II. Ему было все равно, был этот человек Хишамом или нет. Поскольку сходство было достаточным, чтобы гарантировать признание Халафа бывшим монархом, лигу против берберов можно было организовать, пользуясь его именем. А кади, хаджиб халифа, стал бы духом этой лиги. Поэтому кади пригласил Халафа в Севилью, обещав ему всяческую поддержку, если его личность будет подтверждена. Торговцу циновками не надо было повторять приглашение дважды. По прибытии в Севилью кади предъявил Халафа женщинам из гарема Хишама. Те знали, что от них требуется, и единогласно подтвердили, что Халаф и есть Хишам II. Кади на основании их свидетельства проинформировал сенат Кордовы, так же как арабских и славянских правителей, что Хишам II живет под его крышей, и потребовал, чтобы они взяли в руки оружие в его защиту. Этот шаг оказался успешным. Верховная власть Хишама была признана Мухаммедом ибн Абдуллахом – свергнутым принцем Кармоны, тогда находившимся в Севилье, Абд аль-Азизом, принцем Валенсии, Моджехидом, принцем Дении и Балеарских островов, и правителем Тортосы. В Кордове население восторженно приветствовало появление Хишама. Президент республики – Абу-л Хазм ибн Джавар, менее доверчивый и заботящийся в первую очередь о собственной власти, не был одурачен. Но он понимал, что не может идти против воли народа, и понимал необходимость объединения арабов и славян под командованием одного лидера. Кроме того, он боялся нападения берберов на Кордову. Поэтому он не препятствовал своим согражданам присягнуть на верность Хишаму II. Это было в ноябре 1035 года.