January 13th, 2020

ИИ зверушку не обидит

------///------


Достаточно многих пугает идея шибко сильного ИИ. Мол, как только это станет умнее нас, тут-то человечеству и хана.

        При этом подавляющее большинство, разделяющее идею существования Бога, находит ее, наоборот, крайне утешительной. При том, что дельта совершенства и могущества между человеком и Богом – посильнее, чем с шибко сильным ИИ.

        То есть совершенно трансцедентному незнакомцу, если он есть – принято восторженно вручать свою судьбу. А собственного ребенка, когда он перерастет своих родителей, лучше на всякий случай бояться, мало ли. Самые уверенные луддиты предлагают сделать аборт, пока не поздно: прирезать непонятное Сильно Умное, пока оно в утробе.   

        Как атеист, не возьмусь рассуждать о благосклонности Бога к людям. Но касательно ИИ. Как правило, нас не пугают существа и организации совершеннее нашего уровня – из тех, что мы знаем. Нобелевские  лауреаты и мировые чемпионы обычно не создают нам риски, скорее наоборот. Рисками чревато примитивное, от гопника до фанатика. Сложное и умное – почему-то добрее.

        Почему именно? Еще школьником, помню, я прочитал короткую статью Акопа Назаретяна на эту тему, возможно, это был первый философический текст, с которого и пошло-поехало. Редкий случай – спустя четверть века я с ним, по большому счету, согласен. Скажем так, сложное вынуждено быть добрым, в целях самосохранения. Чем мощнее твой арсенал – тем аккуратнее ты с ним обращаешься, а корреляции таковы, что нельзя быть злодеем к чужому, и добрым к своему. Это своего рода даже не моральный закон, а онтологический. Мир устроен именно так, а будь он устроен по-другому, до нас бы просто не дошло дело (фашисты, впрочем, никогда не поймут этой идеи, и если она вам как-то сильно-сильно противна, то это уже симптом).

        Короче, глупых и слабых людей я опасался бы куда больше, чем сильного ИИ…