В большинстве современного электрооборудования установлены сетевые фильтры, которые образуют емкостной делитель напряжения, и без заземления на корпусах и не подключённом РЕ-проводнике к шине РЕ может быть половина сетевого напряжения в 110 В. Как раз это напряжение Вы наблюдаете на защитном РЕ-проводнике.
Отключите из розеток электрооборудование и напряжение пропадёт.