Верховный суд КНР обязал судей при принятии решений консультироваться с искусственным интеллектом, сообщает South China Morning Post. Нейросеть будет автоматически проверять судебные дела на наличие ссылок, а также рекомендовать законы и постановления, наиболее отвечающие сути спора.
Это, безусловно, продолжение развития системы цифрового "социального кредита". Есть алгоритмы, которым обязан подчиняться человек, значит, должны существовать алгоритмы, по которым будут определяться и поступки, не соответствующие поведенческим нормам.
Фактически это уже муравейник с жестко запрограммированным инстинктивным поведением. "Элизиум — рай не на Земле" очень неплохо визуализировал подобные технологии управления.
В чем здесь проблема? В том, что сложное поведение человека позволяет ему менять свой функционал, в том числе и социальный, сообразно возникающим обстоятельствам. Если человек лишен возможности "переключаться", он в изменившихся условиях оказывается неспособен на осмысленные реакции. Конечно, в него можно "записать" ряд алгоритмов для реагирования на какие-то типовые ситуации, но жизнь всегда сложнее.
Подобного рода эксперименты в социуме можно проводить только в одном случае — если жизнь конкретного человека не имеет никакого значения. Причем не абстрактно, а всерьез, на понятийном и ментальном уровне. Китай, по всей видимости, следует этому правилу, что, кстати, вполне вписывается в его цивилизационную парадигму. При этом нужно понимать, что социум должен сам добровольно согласиться с такого рода постановкой вопроса, в противном случае психическая катастрофа для него обеспечена.
"Погашенный" инстинкт самосохранения — вещь серьезная, но только при его наличии система полной алгоритмизации вплоть до утраты разумности поведения может работать без сбоев. Проще говоря — наше понятие о гуманизме и о гуманитарных технологиях управления полностью не вписывается в китайскую парадигму. Да, в России жизнь человека всегда была для властей второстепенным фактором, но все-таки напрочь игнорировать личные мотивы человека у нас все-таки не пытались никогда. Даже сегодня, когда в стране правит откровенно фашистский режим, он вынужден прибегать к социальной психологии, пускай и на самом примитивном уровне. Китайская история с переводом всей жизни под контроль искусственного интеллекта — это совершенно иной уровень отношений власти и общества.
Я думаю, что у нас могут завистливо вздыхать, глядя на китайский опыт, но повторить его не сумеют. Во-первых, потому что просто не сумеют, они вообще ничего не могут и не умеют, а во-вторых, власть при попытке внедрения подобной технологии неизбежно столкнется с сопротивлением всего социума. Причем это сопротивление может носить как активный, так и пассивный характер. Что такое пассивный характер — да то, что произошло в "пандемию". Люди либо просто игнорировали абсурдные и людоедские решения властей, либо имитировали их принятие. Причем массово. Настолько массово, что никакой террор так и не сумел продавить вполне банальное решение о всеобщей вакцинации. Ключевым фактором отказа стал насильственный характер мероприятия.
Так что, думаю, нам китайская перспектива точно не грозит, а если чья-то светлая голова решит внедрить это полезное начинание, то на выходе получится что-то совершенно иное. Скорее всего, точно хуже даже того, что есть сейчас, но точно не то, что будут пытаться внедрить.
! Орфография и стилистика автора сохранены
