Это был важный шаг на пути к единству, однако он не охватывал все трудовое движение в целом, ибо две менее влиятельные партии — «Хашомер Хацаир» и левая фракция «Поале Сион» — отказались присоединиться к «Мапаи». За первые пять лет существования «Мапаи» численность ее возросла вдвое. Эта партия возглавляла профсоюзное движение и была самой сильной как в рядах мирового сионистского движения, так и среди выборных органов палестинского еврейства. Но между ее лидерами возникали разногласия.

Внутренняя оппозиция, возглавляемая «Объединенным киб-буцем», жаловалась, что новая партия в своем стремлении к власти и авторитету утратила львиную долю радикальной инициативы и пионерского духа. Табенкин, лидер «Сиа Бет» («второй фракции»), приобрел поддержку в основном среди городских членов «Мапаи», особенно в Тель-Авиве. На выборах в исполнительный комитет «Мапаи» в декабре 1938 г. оппозиции удалось собрать около трети от общего числа голосов. Свой вклад в нарастающий конфликт вносили идеологические разногласия — например, по вопросу об отношении к Советскому Союзу и мировому коммунизму. Кроме того, многие жители киббуцев обижались на то, что их товарищи из Седжеры и «Трудового легиона» перенесли центры своей деятельности в Иерусалим и Тель-Авив, утратив первоначальный энтузиазм по отношению к коллективным поселениям. В этих жалобах была доля правды, поскольку в эти годы внимание Бен-Гуриона в основном было обращено к планам создания еврейского государства, и его концепция государственности (мамлахтиут) со всеми ее теоретическими и практическими выводами порой входила в конфликт со специфическими интересами рабочего класса, а киббуцы лишились своего абсолютного приоритета над другими ветвями трудового движения. Кроме того, во внутреннюю борьбу в рядах «Мапаи» были вовлечены сугубо личные факторы — вражда и соперничество, восходившие еще ко временам второй и третьей алий.

Первые несколько лет казалось, что конфликт можно удержать в рамках «Мапаи», поскольку две главные фракции были пропорционально представлены во всех органах, занимающихся выработкой политического курса. Начало II мировой войны и смертельная угроза, нависшая над еврейской общиной, также затормозили развитие конфликта. Но затем большинство в «Мапаи» пришли к выводу о том, что сохранение внутренних противоречий недопустимо, поскольку они парализуют деятельность всей партии. Члены «Мапаи» и, прежде всего, все ее выборные представители должны соблюдать партийную дисциплину. Поэтому на конференции «Мапаи» в поселении Кфар Виткин в 1942 г. было принято решение о запрете фракций. В результате «Сиа Бет» отделилась от «Мапаи» и в мае 1944 г. превратилась в независимую партию, приняв старое название — «Ахдут Ха’авода» («Трудовой союз»). В апреле 1906 г. она слилась с левой «Поале Сион», которая в 1937 г. вернулась в сионистский конгресс после того, как бойкотировала его несколько десятилетий. В январе 1948 г., накануне возникновения государства Израиль, левые трудовики предприняли очередной шаг на пути к единству: «Ахдут Ха’авода» и «Хашомер Хацаир» решили создать партию «Мапам» («Мифлегет Поалим Меухедет» — «Объединенная рабочая партия»). С возникновением государства Израиль утратили свой смысл старинные разногласия между сторонниками двухнационального государства («Хашомер Хацаир») и приверженцами борьбы с мандатным правительством и создания еврейского государства на всей территории Палестины («Ахдут Ха’авода»). Представители «Мапам» вошли в правительство Израиля, большинство в котором составили члены двух социалистических партий.