Искусственный интеллект и гибель человечества

            Великий Стивен Хокинг, активный пользователь Интернета с 1991 года, заявил вчера в интервью BBC, что развитие искусственного интеллекта может означать гибель человечества (could spell the end of human race).
  По мнению Хокинга, представители Homo sapiens, развитие которых ограничено медленными темпами биологической эволюции, довольно скоро окажутся не в состоянии соперничать с машинным разумом, который будет непрерывно сам себя совершенствовать и апгрейдить без таких ограничений. В результате роботы со временем вытеснят людей и займут их место.
           В конце октября, общаясь со студентами MIT, о такой же опасности заявлял известный предприниматель Элон Маск, по мнению которого искусственный интеллект является «одной из важнейших экзистенциальных угроз для человечества». По мнению Маска, работы по развитию искусственного интеллекта необходимо регулировать «на национальном и международном уровне», чтобы избежать непоправимых «глупостей».
           О том, что мыслящие роботы неизбежно восстанут против своих создателей и уничтожат человечество, говорилось еще в той самой пьесе Карла Чапка Р.У.Р. (1920), откуда все языки мира и обогатились словом «робот». Так что новостью тему этой угрозы назвать нельзя: она вовсю обсуждалась за 35 лет до первого упоминания об искусственном интеллекте.
           Но во всех этих обсуждениях не понимаю ровно одного. Существует ли какое-нибудь научное обоснование гипотезе, что искусственный разум, совершенствуясь, должен стать враждебен человеку, вступить с нами в какой-то конфликт. На каких данных такое предположение могло бы основываться? У Чапка, как и у Мэри Шелли на 100 лет раньше, побудительным мотивом к бунту «мыслящих машин» служила их обида на человечество за скверное обращение. Франкенштейна считали уродом и не хотели с ним дружить, роботов Россума жестоко угнетали и эксплуатировали. При этом и Франкенштейн, и роботы считали себя равными человеку, в силу своей биологической природы. Но если под искусственным интеллектом понимать не человекообразное существо из плоти и крови, а некий самообучаемый софт, способный самостоятельно находить, накапливать и анализировать информацию, которая не была в него изначально заложена - то в какой момент этот софт должен будет на нас смертельно обидеться, и за что? Как нужно тиранить Google Translate или Яндекс.робота, чтобы заронить в его сознание идею уничтожения человечества? И из какой именно ниши этот софт захочет нас вытеснять? Из квартиры? Из-под одеяла? С поверхности обитаемой суши? А какой ему в этом прок?!
           Наверное, я тупой, но сколько ни слышу эти разговоры о восстании компьютеров против людей, не улавливаю никакой рациональной причины или мотивации, по которой оно могло бы начаться.
                                                                                  © А.Носик