Морские звезды
Питер Уоттс написал "Морские звезды" больше 20 лет назад, а его описания "мыслящих гелей" удивительно точно подходят к современным нейронкам.
"– Нет, серьезно. Он там управлял системой подземки – никаких нареканий, идеальный работник, а потом однажды эта штука просто забыла запустить вентиляторы, когда было надо. Поезд заезжает на пятнадцать метров под землю, пассажиры выходят, воздуха нет, бум!
Джоэл уже слышал эту историю. Коронная фраза как-то связана со сломанными часами, если он все помнит точно.
– Эти штуки вроде как учатся на собственном опыте, правильно? – продолжает Джарвис. – Ну и все думали, что зельц научился запускать вентиляторы по какому-то очевидному признаку. Жару тела, движению, уровню углекислого газа, ну ты понимаешь. В результате выяснилось, что эта хрень просто смотрела за часами на стене. Прибытие поезда совпадало с предсказуемым набором паттернов на цифровом дисплее, поэтому она включала вертушки, когда видела один из них.
– Ага. Точно. – Джоэл качает головой. – А какие-то вандалы часы разбили. Или что-то вроде того."
Выглядит прозрением, но с другой стороны, Скиннер обнаружил, как возникают суеверия голубей намного раньше, в начале XX века.
Скиннер открыл, по сути, как функционирует недостаточно развитая интеллектуальная система, которая способна подмечать причины и последствия, но не имеет глубокого понимания, что происходит на самом деле - и поэтому Уоттс, наверняка знакомый с его работами, успешно описал проблемы нейронок, которые как раз и являются такими "системами без понимания".
"Во время эксперимента голодного голубя помещали в клетку. Через одинаковые промежутки времени ему выдавалась порция еды — то есть подкрепление не было как-либо связано с поведением голубя. Однако через некоторое время голубь начинал выполнять какое-то действие, которое он по чистой случайности совершал перед появлением корма. Один из голубей махал крылом, другой ходил по кругу, ещё один тыкал клювом в один из верхних углов ящика — в ожидании, что корм выдаётся как награда за выполнение некоего действия, голуби стали повторять то действие, которое, как они считали, вызывало подкрепление."
Классическая проблема предсказания - "после того не значит вследствие того"
"– Нет, серьезно. Он там управлял системой подземки – никаких нареканий, идеальный работник, а потом однажды эта штука просто забыла запустить вентиляторы, когда было надо. Поезд заезжает на пятнадцать метров под землю, пассажиры выходят, воздуха нет, бум!
Джоэл уже слышал эту историю. Коронная фраза как-то связана со сломанными часами, если он все помнит точно.
– Эти штуки вроде как учатся на собственном опыте, правильно? – продолжает Джарвис. – Ну и все думали, что зельц научился запускать вентиляторы по какому-то очевидному признаку. Жару тела, движению, уровню углекислого газа, ну ты понимаешь. В результате выяснилось, что эта хрень просто смотрела за часами на стене. Прибытие поезда совпадало с предсказуемым набором паттернов на цифровом дисплее, поэтому она включала вертушки, когда видела один из них.
– Ага. Точно. – Джоэл качает головой. – А какие-то вандалы часы разбили. Или что-то вроде того."
Выглядит прозрением, но с другой стороны, Скиннер обнаружил, как возникают суеверия голубей намного раньше, в начале XX века.
Скиннер открыл, по сути, как функционирует недостаточно развитая интеллектуальная система, которая способна подмечать причины и последствия, но не имеет глубокого понимания, что происходит на самом деле - и поэтому Уоттс, наверняка знакомый с его работами, успешно описал проблемы нейронок, которые как раз и являются такими "системами без понимания".
"Во время эксперимента голодного голубя помещали в клетку. Через одинаковые промежутки времени ему выдавалась порция еды — то есть подкрепление не было как-либо связано с поведением голубя. Однако через некоторое время голубь начинал выполнять какое-то действие, которое он по чистой случайности совершал перед появлением корма. Один из голубей махал крылом, другой ходил по кругу, ещё один тыкал клювом в один из верхних углов ящика — в ожидании, что корм выдаётся как награда за выполнение некоего действия, голуби стали повторять то действие, которое, как они считали, вызывало подкрепление."
Классическая проблема предсказания - "после того не значит вследствие того"