В годы войны часть евреев, уехавших из Палестины, поступила в британскую армию. (Об этом рассказано в очерке «Еврейский легион».) После окончания войны, с началом британского мандата, арабский бандитизм превратился в широкое антиеврейское политическое движение. Именно с тех пор грабежи, насилия, налеты на колонии приобрели четкую цель — изгнать евреев из Палестины.

А у евреев в то время еще не было такой военной организации, которая могла бы противостоять этому всплеску арабского терроризма. Начало ей положило прибытие в 1919 году Иосифа Трум-пельдора. Обладавший военными знаниями и опытом, волевой и мужественный командир, он сразу же приступил к активным действиям против арабских банд. Однако в бою за поселок Тель-Хай Трумпельдор был смертельно ранен. Его последними словами были: «Я счастлив, что умираю за нашу прекрасную родину!»

События весны 1920 года, когда арабы разгромили и разграбили еврейские кварталы в Иерусалиме, поставили перед ишу-вом задачу создания мощной, относительно профессиональной, вооруженной организации, способной дать отпор воинствующим националистам. Такая организация и была создана 15 июня 1920 года на съезде партии Ахдут Авода в кибуце Кинерет. Она была названа Хаганой («Оборона»), и на нее была возложена ответственность за безопасность еврейского ишува. В первый комитет Хаганы вошло пять человек.

И уже 25 августа был сформирован первый батальон в составе 250 человек, в основном это были евреи из Крыма, в числе командиров были знаменитые впоследствии Ицхак Ландоберг (Садэ), Элияху Голомб, Шаул Авигур.

В мае 1921 года — новый кровавый погром в Яффе. Готовился такой же и в Тель-Авиве, но его предотвратило прибытие в город бывших солдат Иудейского полка во главе с полковником Марголиным. Эти события заставили взяться за создание обороны всерьез. На деньги, собранные в Европе, закупили оружие и нелегально доставили его в Палестину. Организовали курсы по подготовке командиров под руководством Ицхака Сада. События показали, что даже небольшая группа обученных бойцов может остановить погромщиков.

В 20-е годы деятельность Хаганы, однако, не имела должного развития. Руководил ею в то время единственный профессионал, получавший за это деньги, Иосиф Гехт, российский уроженец. В основном его работа свелась к добыванию оружия, часть которого получали при помощи полковника Киша, представителя правления Всемирной сионистской организации. Летом 1930 года на вооружении Хаганы имелось 27 пулеметов, 750 ружей и 1050 пистолетов, то есть вооружить можно было не больше 2000 человек, а противостояло им 800 тысяч арабов.