Сможет ли машина когда-либо по-настоящему мыслить? Этот вопрос мы задаём уже не одно десятилетие — и с каждым технологическим скачком он звучит всё острее. В эпоху, когда алгоритмы прогнозируют болезни, пишут музыку и рисуют картины, граница между вычислением и мышлением становится зыбкой. Но ещё задолго до взрывного роста нейросетей на него пытался ответить один из самых остроумных умов XX века — физик-теоретик Ричард Фейнман.
Когда у Фейнмана спросили, верит ли он в разумность машин, он, как это было в его духе, развернул вопрос наизнанку. Для начала он предложил уточнить, что именно мы считаем разумом. Если речь идёт о машинном повторении человеческого мышления — с теми же ошибками, сомнениями, иррациональными страхами и упрямством — то это вряд ли возможно, и, главное, непонятно, зачем. Но если рассматривать интеллект как способность решать задачи, находить нестандартные связи, создавать новое знание — то да, машины вполне могут стать умнее нас. Только их разум будет чуждым, отличным от нашего, возможно, даже пугающим.
Фейнман с иронией говорил: конечно, мы могли бы сконструировать компьютер, который складывает и вычитает с человеческой медлительностью и ошибками — имитируя школьника на контрольной. Но зачем? Машины уже умеют считать быстрее и точнее нас, и их сила именно в этом. Человеческий интеллект не в арифметике, а в способности замечать паттерны, распознавать лица, делать интуитивные выводы на основе ограниченной информации. Хотя и это, как мы теперь знаем, становится зоной успеха машинного обучения.
Фейнман не был технологическим оптимистом или пессимистом. Он был реалистом. И поэтому его интересовала не столько машина, сколько то, что мы в неё проецируем. Он считал, что обсуждение искусственного интеллекта — это разговор не о технологиях, а о нас самих: что мы ценим в разуме, чего мы боимся, и что считаем уникально человеческим. Его любимая мысль заключалась в том, что понимание — это не повторение, а построение моделей, которые работают. Поэтому, по его мнению, машина, способная предсказать реальное поведение мира с помощью «чуждой» нам логики — тоже разумна. Просто не в нашем образе и подобии.
Сегодня, спустя 40 лет, кажется, что всё это сбылось. Мы действительно подошли к границе, за которой интеллект машин перестаёт быть механической копией нашего. Системы вроде ChatGPT, Midjourney или AlphaFold не думают как человек — они вообще не думают в привычном смысле. Но они создают тексты, изображения и научные гипотезы, с которыми мы взаимодействуем как с результатом мышления. И именно это, возможно, ставит под сомнение саму идею о том, что мышление должно быть внутренним переживанием.
Фейнман предупреждал: машины, которые будут «умны» в нашем понимании, обязательно будут странны. Они будут совершать ошибки, которые нам кажутся нелепыми, и добиваться успеха путём, который мы не поймём. Они будут рациональны там, где мы руководствуемся чувствами, и слепы там, где мы полагаемся на интуицию. И это хорошо. Ведь, как он говорил, наука продвигается не повторением известного, а открытием неожиданного.
Он напоминал и о другом: интеллект — это не абстрактное качество, а способность решать задачи. В этом смысле муравей, строящий муравейник, тоже «умён» — в своей экосистеме. А значит, и машина может быть разумной — в своей. Не в том, чтобы чувствовать или размышлять о смысле жизни, а в способности преобразовывать информацию в действие, делать выводы, строить гипотезы и проверять их. Даже если она делает это иначе, чем человек.
Артур Кларк однажды сказал:
«Любая достаточно развитая технология неотличима от магии».
А Фейнман, вероятно, добавил бы:
«А любая достаточно умная машина будет казаться немного глупой».
Просто потому, что она не обязана мыслить как мы, чтобы быть эффективной. Разум — не зеркало человека. Он может быть совершенно другим. Вопрос в том, готовы ли мы к его встрече.