Возможность того, что #AI модели будут порочить себя, может быть немного аналогична определенной дилемме XX века. После того как первые атомные бомбы были взорваны в конце Второй мировой войны, десятилетия ядерных испытаний приправили атмосферу Земли щепоткой радиоактивных осадков. Когда этот воздух попадал в новосделанную сталь, он приносил с собой повышенную радиацию. Для особенно чувствительных к радиации стальных приложений, таких как консоли счетчиков Гейгера, эти осадки представляют собой очевидную проблему: счетчик Гейгера не должен сигнализировать о себе. Таким образом, началась гонка за убывающими запасами металла с низким уровнем радиации. Искатели сокровищ обыскивали старые кораблекрушения в поисках обрезков сталей до войны. Теперь некоторые инсайдеры считают, что аналогичный цикл готов повториться в генеративном ИИ — с #training данными вместо стали.#Binance #OPN