Попробовал и модифицировал простейший код из примера следующим образом

        if ( zSample - z > 1500.1 ) //если разница в глубине большая то пропускаем
            continue;
           
        float   dz = max ( zSample - z, 0.0 ) * 0.05; //определяем коэффициент затенения
       
        att += 1.0 / ( 1.0 + dz*dz ); //величина затенения
    }
   
    att = clamp ( (att / 8.0 + attBias) * attScale, 0.0, 1.0 );
    gl_FragColor = vec4 ( att );

Тоесть как видите порог по глубине значителен, но результат опять тот же, пробовал изменять коэфициент затенения, нов результате контур просто проподал или ничего не изменяться ( увеличивается контрастность но опять же на границе объекта)

Какой отрезок имеете ввиду я не понял. Может кто выложит пример для RenderMonkey там есть моделька NinjaHead.3ds хотелось бы увидеть что может алгоритм для данного случая, у меня по крайней мере получается тока контур как и с зайцем. Недавно скачал пример шейдера одного автора описывающего спецэффекты в игре Crysis кажется. Так при рендере тоже только контур танка, а как же затенение корпуса под стволом пушки, да в самой модели  много переходных мест, где должны появиться темные участки. Возникает подозрение: или в примере неправильно что то реализовано, или алгоритм на большее и не способен, хотя по идее он должен отрабатывать такие моменты.