Avishai est né à Kabri, un kibbutz du nord d'Israël, et possède des origines juives espagnoles, grecques et polonaises. Il a grandi dans une famille musicale à Motza et Beit Zayit près de Jérusalem jusqu'à l'âge de six ans, quand sa famille a déménagé à Shoeva, tout près de là. Comme beaucoup de grands musiciens de jazz, il a commencé à jouer du piano avant d'avoir dix ans. Mais pour une raison ou une autre, la basse s'avéra bien plus amusante à jouer. Il s'est donc tourné vers la basse électrique à quatorze ans après avoir découvert Jaco Pastorius. C'est un professeur de musique à Saint-Louis, au Missouri, qui lui a fait connaître la musique de Pastorius, là où il avait emménagé avec sa famille alors qu'il était adolescent.
