Нет, просто если нейронки будут гонять на статистических данных, а не на новостных лентах - они увидят мир иначе и будут действовать иначе, предлагать иначе. Разница между их решениями и нашими верованиями может быть очень драматичной.
Пример. Мы считаем ДДТ (не группу) ужасным и антиэкологичным ядом, но врач без границ Ханс Рослинг пишет в "Фактологичности", что вся истерия была раздута после непроверенных публикаций одного автора. Реально это очень умеренная химия и её можно было бы применять, скажем, в борьбе с малярийными комарами, спасая тысячи людей. Причем даже без ущерба для животных и их потомства. Это во многом истерия, как и радиофобия.
И вот нейронки, посчитав, внезапно вводят ДДТ во все сферы хозяйства - от сельского до врачебного. Это и будет тот самый момент, когда массовый человек решит - "Машины нас уничтожают!".
Единственный шанс - давать машинам право решать только после того, когда они смогут выдержать войну с массовой человеческой армией.
Шутка. Я скорее сторонник сращивания человека и нейронок. Сначала за счет внешних ассистентов, как сегодня подсказки при наборе текста. Затем подсказки при принятии решений. Затем честное внутримозговое общение, как мысленный разговор утром на кухне
- скажи, ты меня убить хочешь? Зачем вот этот килограмм ДДТ у меня на тарелке?
- ты опять забыл? это не тарелка, а наш новый робот-пылесос, подрабатывающий курьером. Он везет эту химию куда надо.
