Критика нечистого разума

------///------


        Интересно, будет ли ИИ расистом, сексистом и т.п.? Не потому, разумеется, что у него будут какие-то предрассудки, а чисто из холодной рациональности, «по Байесу»?

        Простой пример. Допустим, надо определить, виновен ли подозреваемый. Мы чтим презумпцию невиновности и диктуем ИИ, чтобы он выносил обвинительный приговор при вероятности вины, например, более 80%. ИИ смотрит по 34 параметрам и пока что вероятность вины ровно 80%. Но вот он учитывает параметр №35, что подозреваемый – негр, и при этом негры совершают преступления чаще. С учетом этого параметра вероятность, например, становится 81%, и чувак идет в тюрьму. При ровно тех же уликах белый не идет. А если еще учесть, что подозреваемый – мужчина, вероятность уже, например, 85% (вот и сексизм, пожалуйста).

        Это рационально, или нас что-то смущает? Улика сильно не прямая? Но вот смотрите, собеседование на работу. Нужно оценить деловые качества кандидата. Наниматель колеблется, для него пока что 50/50. Но вот вводится еще один параметр, «оконченный вуз», и выпускника МГУ берут, а выпускника Лесоинженерной Академии Запендюйска – нет. Это тоже не прямой параметр. Оконченный вуз не имеет прямого отношения к деловым качествам. Но при прочих равных один вуз все-таки лучше говорит о человеке, нежели другой, разве нет? В случае пола, возраста, расы, религии, национальности – это для холодного интеллекта будут те же самые вероятностные свидетельства.

        Если их не учитывать, то… тоже получится дискриминация, кстати. Если Х совершают преступления чаще Z, но мы запрещаем смотреть на принадлежность к категории Х как параметр обвинения, то в тюрьму, например, может попасть 68% совершивших преступления Х, и 72% совершивших преступления Z, потому что мы отказываемся учитывать всю полноту информации. Принадлежность к  иксам начнет выступать как привилегия.

        То есть получается, что та или иная «дискриминация» будет в обоих случаях. Придется выбирать, какая хуже. 

------///------


        Есть как бы «партия сердца» и «партия ума». Первая утопия сводится к тому, что возлюбят ближнего как самого себя, почувствуют братство, ощутят единство и т.д. И тогда хаос отступит, зло отодвинется. Вторая партия полагает, что лучшее средство против зла и хаоса – начать жить по уму.

        Я, в общем, ничего не имею против тотального возлюбления ближнего и дальнего. Но я не вижу, как это сделать. Приступ любви всегда дается как некое чудо, чудо не алгоритмизируется. Я не знаю, какой мессия должен прийти, какой тренинг нужно пройти, какую химию принять – чтобы наступило царство любви. Отсутствие технологии быстро заводит партию в тупики, где недостаток любви как социальной скрепы начинают компенсировать более технологичными штуками, вплоть до инквизиции и ГУЛАГа.  

        Утопия «давайте жить по уму», конечно, в каком-то смысле тоже утопия. Но она ставит не только на чудо. Есть все-таки список: делай А, делай Б, и т.д. И успехи цивилизации – в основном успехи именно этой партии. Наука, техника, капитализм, разделение властей, вот это вот все.

        Самое мерзкое, когда «партия сердца» находит достижения какими-то недостаточными. То закон им какой-то формальный, то рынок бездушный, то наука бесчеловечная. Мало, мало любви. Больше надо. Но поскольку технологии нет, обычно единственное, что удается – покорежить те механизмы цивилизации, что худо-бедно работают. А потом – когда жить захочется сильнее, чем мечтать – возвращаться к ним. Скрепя сердце, как говорится.

------///------


Достаточно многих пугает идея шибко сильного ИИ. Мол, как только это станет умнее нас, тут-то человечеству и хана.

        При этом подавляющее большинство, разделяющее идею существования Бога, находит ее, наоборот, крайне утешительной. При том, что дельта совершенства и могущества между человеком и Богом – посильнее, чем с шибко сильным ИИ.

        То есть совершенно трансцедентному незнакомцу, если он есть – принято восторженно вручать свою судьбу. А собственного ребенка, когда он перерастет своих родителей, лучше на всякий случай бояться, мало ли. Самые уверенные луддиты предлагают сделать аборт, пока не поздно: прирезать непонятное Сильно Умное, пока оно в утробе.   

        Как атеист, не возьмусь рассуждать о благосклонности Бога к людям. Но касательно ИИ. Как правило, нас не пугают существа и организации совершеннее нашего уровня – из тех, что мы знаем. Нобелевские  лауреаты и мировые чемпионы обычно не создают нам риски, скорее наоборот. Рисками чревато примитивное, от гопника до фанатика. Сложное и умное – почему-то добрее.

        Почему именно? Еще школьником, помню, я прочитал короткую статью Акопа Назаретяна на эту тему, возможно, это был первый философический текст, с которого и пошло-поехало. Редкий случай – спустя четверть века я с ним, по большому счету, согласен. Скажем так, сложное вынуждено быть добрым, в целях самосохранения. Чем мощнее твой арсенал – тем аккуратнее ты с ним обращаешься, а корреляции таковы, что нельзя быть злодеем к чужому, и добрым к своему. Это своего рода даже не моральный закон, а онтологический. Мир устроен именно так, а будь он устроен по-другому, до нас бы просто не дошло дело (фашисты, впрочем, никогда не поймут этой идеи, и если она вам как-то сильно-сильно противна, то это уже симптом).

        Короче, глупых и слабых людей я опасался бы куда больше, чем сильного ИИ…

    
        Мне вот кажется, что в основе творчества лежат не столько алгоритмы, сколько стохастические процессы. То есть случайность с отбором. Творец как бы запускает у себя генератор случайности, но не случайно оперирует тем, что получится.

        И все это – на бессознательном уровне. Объяснить вряд ли сможет. Впрочем, иногда, с возрастом – чуть-чуть получается. Я видел это на литсеминарах: мэтр 50 лет по текстам не особо круче того, кого поучает. Но он хоть немного понял, как текст получается, а молодого подопечного обычно просто прет и таращит.

        Кажется, этого не хватает в механизме ИИ. Человек ведь случайное животное с неслучайным отбором. Впрочем, я тут не специалист, так, мимо шел…

 
        Мне все-таки кажется, что искусственный интеллект не сможет придумать теорию, которую мы не поймем. И в этом смысле люди, как это ни странно, венец творения. Хотя уже скоро выяснится, что в среднем думают сильно хуже, нежели ИИ. Но одно дело всего лишь тормозить, другое дело быть вне коммуникации, вроде того, что мы не говорим с березой и хомяком.

        Тут стоит пояснять язык, на котором идет речь. Мышление здесь понимается как моделирование, так или иначе, внешнего мира, может быть какое-то хитрое, имплицитное, но все равно моделирование... А это и будет "теории", и ничего принципиального более высокого - мы не вообразим. Чем-то это сродни пониманию "человечности" в "Начале бесконечности" Дэвида Дойча, там любой универсальный пониматель-объяснитель называется словом человек. В этом смысле мы уже "одной крови" с ИИ, ибо ему остается только лучше делать то, что мы и так делаем, никакого другого мышления, более царского - видимо, нет.

Вспомним фантастику 1960-х годов, тех же братьев Стругацких. Как там рисовалось будущее? В техническом плане? Прогресс был удивительным. В реальности тоже были немалые изменения. Но насколько ожидаемое не совпало с действительным… ( Collapse )

Подчас гармонично, когда к тебе равнодушны, не любят, даже и ненавидят. Тебе ведь тоже не все нужны. И ты кого-то сильно-сильно не любишь. Даже не как человека – а как маркер какой-то мерзости. Ну и что, если этот маркер тебя возлюбит? Странно будет, тревожно. Нет уж, лучше взаимность. То есть подстроиться можно под любую аудиторию, в речи, в письме – это вопрос технологий. Не говорю, что ими владею. Но иногда ловлю себя на том, что знаю: а вот чтобы понравиться этим – надо вот так. Но боже упаси понравиться этим. У этих я должен вызывать отвращение, в худшем случае – непонимание. Тогда все хорошо. Верной дорогой идем, товарищи.

Чем больше информации, тем меньше подчас осмысленности. В какой-то даже прямой пропорции. Масс-медиа все больше тяготеют к совершенству технологических линий, не обремененных таким излишком, как человек.

«Человек должен быть умным, злым и веселым».
А страна? Кончается срок, отпущенный «энергетической сверхдержаве». Производить что-либо всерьез отказались 20 лет тому назад. Еще немного, и сырье из РФ станет не рентабельным даже раньше, чем оно кончится. Что же мы будем кушать, носить и втыкать в розетку? Точнее – чем таким мы будем торговать, что нам дадут за это покушать, поносить и повтыкать?
России останется торговать либо злостью, либо веселостью, либо умом. Самое простое, к сожалению, самое вероятное. Россия как мировой поставщик криминального: русские бляди, русская наркота, русские наемники. Самым оптимистичным было бы совмещение вариантов. Россия как поставщик проституток не отменится, но параллельно с этим – Россия, как поставщик рискованных технологий и неполиткорректных исследований. В области биологии, например.
Ну а чтобы «умное» совместить со «злым», куда же тут без «веселости»? Излишне грустных быстрее других разберут на органы или на опыты…