Автономная организация "Центр изучения сетевого мониторинга молодежной среды" (АНО "ЦИСМ"), созданная по поручению Владимира Путина в 2018 году, может получить из бюджета почти 1,6 млрд рублей на разработку системы, позволяющей отслеживать распространение информации, которая может побудить детей "совершить действия, представляющие угрозу их жизни". Об этом сообщает РБК со ссылкой на пояснительные записки к проекту трехлетнего бюджета.
Деньги для АНО планируется выделить в рамках федерального проекта "Социальная активность", ответственность за исполнение которого лежит на Федеральном агентстве по делам молодежи (Росмолодежь).
Предполагается, что система должна будет изучать письменные работы школьников и студентов, анализировать их и выявлять "склонности к социально опасному и деструктивному поведению". По словам руководителя Liquid Studio Accenture в России Арсения Кондратьева, вероятно, в основе будет лежать нейросеть, обученная на большом количестве текстов, авторами которых являются обладающие какими-либо психическими или социальными отклонениями люди.
В то же время доктор психологических наук, академик Российской академии образования (РАО) Сергей Малых отмечает, что искусственный интеллект действительно способен реагировать на слова-маркеры, которым его обучат, но важно также и распознавание контекста. "Чтобы понять, как связано написанное ребенком с его состоянием, нужно проводить отдельное поведенческое исследование. Только на основании текста нельзя делать выводы о склонностях к преступлениям или суициду", — предупреждает Малых.
Кроме того, специалисты отмечают, что закон о персональных данных требует обращаться к родителям за разрешением для использования текстов учащихся.
