Человек просто не понимает, что нейронная сеть умеет делать, а что - нет. Поэтому не задаёт те вопросы, которые отличают нейронную сеть от человека.

Чтобы завалить нейронную сеть на тесте Тьюринга, надо попытаться её чему-то научить и потом проверить понимание. Раньше это делалось одним вопросом "какого цвета эта красная машина?", но теперь такой подход в лоб не работает, потому что нейронные сети уже зазубрили ответ на этот вопрос. Надо слегка более сложный вопрос поставить.

Работает этот подход потому, что человек учится постоянно, а нейронная сеть учится заранее. Иначе уже давно было бы можно поручить нейронной сети себя саму совершенствовать, раз она такая умная.