Роботы не должны вредить человеку

Незыблемый закон для роботов знают все, кто любит фантастику – робот не должен вредить людям, или бездействовать, если человеку наносится вред. Но никто не будет оспаривать, что эта формулировка понятна нам, людям, а роботы не понимают её смысла.

В Люблянском институте был проведён эксперимент. Среди участников – один робот и шесть мужчин. Робот ударяет каждого мужчину по руке. Таким образом, робота учат понимать, что людям свойственно терпеть болевые ощущения.

Второй этап обучения заключается в том, что робот должен остановиться, если его движения стали результатом превышения порога болевых ощущений. Таким образом, робот должен определить, что человеку больно, и прекратить действия.

Данный эксперимент основан на том, что когда-нибудь людям придётся более тесно общаться с представителями мира роботов, и нужно сделать всё возможное, чтобы общение было спокойным и правильным.

То есть, если оставить научные термины, то можно сказать, что учёные хотят быть уверены, в случае удара, нанесённого роботом, результат не будет трагическим. Ожидается, что материалы исследований смогут быть использованы в будущем, когда наступит эра роботов, и встанет вопрос о том, смогут ли роботы быть опасными для человечества. Но в данном случае, имеется в виду физическое действие, а способы влияния на механический разум не обсуждаются.