В статье, опубликованной Теодором Герцлем 19 ноября1897 года, провозвестник еврейского государства, сам сын директора банка, утверждал, что для реализации целей сионистского движения ему необходимо собственное финансовое учреждение. На основе решений второго Сионистского конгресса 20.3.1899 года в Лондоне была зарегистрирована компания Jewish Colonial Trust (ЯКАТ). Компания была также известна под названием "Еврейский колониальный банк" ("Банк иври-колониали") и "Оцар итъяшвут ха-ехудим". Наиболее распространенным было именно последнее название. Зарегистрированный капитал банка был заявлен в размере 2 млн фунтов стерлингов, огромная сумма по тем временам, но фактически устроителям с трудом удалось мобилизовать 250 тысяч фунтов стерлингов.

Банк открыл филиал в Лондоне, но объемы его деятельности были незначительными, и потому 27 февраля 1902 года по инициативе Герцля была создана "Англо-Палестинская компания", предназначенная для работы в качестве банковского учреждения в Эрец Исраэль. Уставный капитал компании составил 50 тысяч фунтов стерлингов, а на пост управляющего был назначен Залман Давид Левонтин – член организации "Ховевей Цион" и один из отцов-основателей Ришон ле-Циона. Еврейские поселенцы чаще всего называли банк по первым буквам Anglo-Palestine Company АПаК, - так официально называлась компания.

Трудности, сопровождавшие рождение первого сионистского банка, подчас казались непреодолимыми. Оттоманские власти запрещали проведение сделок через банк, справедливо считая его существование проявлением еврейского национализма. Кроме того, представители "старого ишува" долгое время жили за счет подачек и зарубежных пожертвований и не привыкли возвращать ссуды...

Тем не менее, банк понемногу расширял объемы своей деятельности, постепенно распространяя ее на всю страну. В 1903 году открылся филиал в Яффо, затем, в 1904 году,  в Иерусалиме, а два года спустя - в Бейруте. К началу Первой мировой войны филиалы АПаК действовали также в Хевроне, Хайфе, Цфате, Тверии и Газе.

После начала войны зарегистрированный в Лондоне банк оказался в отчаянной ситуации, поскольку Турция находилась в состоянии войны с Англией. Оттоманские власти распорядились закрыть банк, а Левонтин, подданный России (тоже выступившей против Турции), был вынужден эмигрировать в Египет и открыть филиал АПаК в Александрии. Тем временем заместитель Левонтина, подданный нейтральной Голландии Зигфрид Хофейн, несмотря на запрет, продолжал руководить банком из консульства Испании в Иерусалиме. 

Левонтин управлял банком в течение 22-х лет, до 1924 года. После его ухода в отставку генеральным директором банка стал Зигфрид Хофейн, занимавший эту должность до 1947 года, после чего он был назначен на пост председателя совета директоров. На посту гендиректора его сменил Аарон Барт.

В 1923 году банк открыл свой первый филиал в Тель-Авиве, а в 1932 году в первый еврейский город Палестины переехала и штаб-квартира банка. В 1931 году Англо-Палестинскую компанию переименовали в Англо-Палестинский банк.

Банк стал еще более независимым после того, как в 1934 году компания "Оцар итъяшвут ха-ехудим" прекратила непосредственную банковскую деятельность и превратилась в холдинг.

Позднее, в 1950 году, то есть два года спустя после основания Израиля, в Тель-Авиве были зарегистрированы две компании: "Оцар итъяшвут ха-ехудим" и "Банк Леуми ле-Исраэль", в распоряжение которых были переданы все активы Еврейского колониального фонда (ЯКАТ) и Англо-Палестинского банка. С 1 мая 1951 года все израильские филиалы банка носят новое имя. "Оцар итъяшвут ха-ехудим" контролировал банк Леуми вплоть до кризиса банковских акций в 1983 году (об этом – дальше).