некорректно работает формула, вероятно считает что пустая ячейка не пуста...

[bigor]

Даже если я руками убираю, значения из столбцов X и Y то в Z  пустая ячейка появляется. Как вариант исключить пустые ячейки из столбцов X и Y. Но появившиеся массивные формулы скорее всего отрицательно скажутся на быстродействии.
Смотрите вариант решения в приложенном файле

[DimS]

Спасибо за попытки помочь. Всё упёрлось в производительность ПК. 500 строк и он уснул. буду изучать макросы..