Идеолог сионизма Теодор Герцль считал, что сионистскому движению необходим собственный банк для мобилизации капиталов и кредитов при заселении Эрец-Исраэль. Сионистский конгресс поддержал это решение.
20 марта 1899 года в Лондоне зарегистрировали Еврейский колониальный банк, а его президентом стал соратник Герцля Давид Вольфсон.
Заявленный капитал банка был огромным по меркам того времени — два миллиона фунтов стерлингов. Для начала функционирования банка нужно было иметь 250 тысяч фунтов, но акций на эту сумму удалось собрать лишь к 1902 году. На 75% первых акций Еврейского колониального банка подписались русские евреи.
В 1902 году Герцль инициировал создание в Яффе дочернего банка — Англо-Палестинского общества, — который со временем перенял дела и капиталы Колониального банка. Вскоре открыли филиалы в Иерусалиме, Бейруте, Хевроне, Цфате, Хайфе, Тверии, Газе и Александрии.
В 1909 году Англо-Палестинский банк предоставил финансовые гарантии для основания Тель-Авива. Директор банка Залман Давид Левонтин купил земли для строительства первых 60 домов. Также банк обеспечил создание Еврейского университета в Иерусалиме.
После образования государства Израиль Англо-Палестинский банк фактически создал монетарную систему Израиля. В США заказали первые банкноты, на которых сперва даже не было названия страны.
В 1954 году был создан Банк Израиля, а Англо-Палестинский банк — к тому времени носивший название Банк Леуми ле-Исраэль — стал коммерческим.
