?

Log in

No account? Create an account

Критика нечистого разума

Previous Entry Share Next Entry
Универсальный пониматель всего
metasilaev
 
        Мне все-таки кажется, что искусственный интеллект не сможет придумать теорию, которую мы не поймем. И в этом смысле люди, как это ни странно, венец творения. Хотя уже скоро выяснится, что в среднем думают сильно хуже, нежели ИИ. Но одно дело всего лишь тормозить, другое дело быть вне коммуникации, вроде того, что мы не говорим с березой и хомяком.

        Тут стоит пояснять язык, на котором идет речь. Мышление здесь понимается как моделирование, так или иначе, внешнего мира, может быть какое-то хитрое, имплицитное, но все равно моделирование... А это и будет "теории", и ничего принципиального более высокого - мы не вообразим. Чем-то это сродни пониманию "человечности" в "Начале бесконечности" Дэвида Дойча, там любой универсальный пониматель-объяснитель называется словом человек. В этом смысле мы уже "одной крови" с ИИ, ибо ему остается только лучше делать то, что мы и так делаем, никакого другого мышления, более царского - видимо, нет.


  • 1
Тренированная нейросеть приемлемо решающая определенный класс задач вполне может быть непознаваема человеческим разумом.

Принцип работы уже сейчас зачастую не познаваем. Как-то работает, а как - фиг поймешь. Я имею ввиду скорее те модели мира, которая такая нейросеть может дать на выходе. При этом она бы хотела, чтоб мы поняли. И мы бы хотели. И вот если все хотят, думаю, что поймем.

В нейросеть обычно зложен замес явных, неявных и отсутствующих зависимостей.
Как следствие, беда нейросетей случайный бред в решениях.

***Мышление здесь понимается как моделирование, так или иначе, внешнего мира, может быть какое-то хитрое, имплицитное, но все равно моделирование... А это и будет "теории", и ничего принципиального более высокого - мы не вообразим.

в принципе да
но ограничение по памяти и по процессору может накладывать и на сложность концепций которые понимаем

"другое дело быть вне коммуникации, вроде того, что мы не говорим с березой и хомяком"
Вот буквально на днях встречал у кого-то цитату из фантастического произведения, где инопланетянин (?) говорит человеку, мол, вы считаете себя венцом цивилизации, самым развитым существом на планете, но элементарно не можете понимать и общаться с теми, кого считаете менее развитыми.

Эх, вспомнить бы ещё, откуда фраза...

  • 1