Предотвращение суицидов с помощью алгоритма

Китайский исследователь Huang Zhisheng из Свободного университета Амстердама разработал программу искусственного интеллекта (ИИ) для сканирования сообщений в социальных медиа Китая с целью выявления суицидальных чувств и намерений. Таким образом удалось предотвратить 662 самоубийства. Об этом рассказывает материал в нидерландской De Volkskrant.

Речь идет об анонимных сообщениях, рассеянных среди тысяч других сообщений, которые быстро проскакивают на сайте и исчезают из поля зрения. Но этот крик о помощи может быть распознан с помощью новой технологии – сканера на основе ИИ.

''Меня поставили в известность, как только появилось это сообщение'', - рассказывает Huang, нидерландско-китайский специалист в области компьютерных наук и разработчик ИИ-сканера для выявления суицидальных чувств и намерений. ''По причине чрезвычайной срочности добровольцы немедленно начали поиск возможности связаться с семьей того человека. Они выяснили, что у него есть свой бизнес, узнали номер телефона и связались с его матерью. Женщина думала, что ее сын спал у себя в комнате. Его удалось спасти''.

Huang запустил свой сканер год назад, и с тех пор его алгоритм день и ночь просеивает китайский интернет в поисках сообщений, указывающих на суицидальное поведение. Алгоритм ранжирует сообщения в диапазоне от 1 до 10 по степени срочности и направляет их группе добровольцев. Те, в свою очередь, пытаются связаться с авторами посланий и изменить их планы. Таким образом, со слов Huang, удалось предотвратить 662 самоубийств.

''Это один из самых позитивных примеров использования ИИ'', - говорит Huang во время визита в Пекин. Свой летний отпуск он посвятил чтению лекций и раздаче интервью с целью привлечения добровольцев в систему предотвращения суицидов. ''В настоящее время мы сканируем в день порядка 3.000 записей. Без помощи ИИ для этого потребовалось бы минимум три человека, причем они должны были бы работать день и ночь, и без выходных. С подобной задачей компьютер справляется намного лучше''.

Huang: ''Суициды – огромная проблема в Китае, особенно среди подростков''. По официальным данным, ситуация с суицидами в стране достаточно спокойная. Согласно информации ВОЗ, в Китае приходится 9,8 суицидов на 100.000 жителей, тогда как в мире этот показатель составляет 10,6 (для сравнения, в Нидерландах: 12,6). Но китайские цифры основаны на нерепрезентативных выборках и предположительно ниже реальных. Исследование 2011 года показало 22,2 суицида на 100.000 жителей.

''Ситуация в Китае абсолютно хуже, чем в Нидерландах. По больничным данным, в последние 3 года в Китае сильно возросло количество подростков с депрессией. Но психические проблемы здесь иметь не принято – китайская культура этого не одобряет. С депрессией трудно найти работу или партнера для совместной жизни. Поэтому многие китайцы свои проблемы скрывают. Они о них не рассказывают ни своим родителям, ни друзьям…

Цифровое дупло
Но кое-что они все-таки делают: они выражают свое отчаяние в интернете, нередко на странице реакций сайта микроблогов Weibo, в отношении пользователей, которые покончили с собой. Подобные сайты выступают в роли описанного в китайских сказках дупла дерева, в которое герой выкрикивает или вышептывает свой секрет, чтобы его случайно не услышали духи воздуха, воды и пр. На сайте Weibo в быстром темпе проходят негативного характера сообщения о разорванных отношениях, семейных ссорах и проблемах с деньгами, и в худшем случае – о желании умереть. Разработанный Huang алгоритм ведет поиск на трех самых известных сайтах, которые выполняют функцию такого дупла для секретов.

На создание сканера у Huang ушел месяц. Тогда с помощью диссертантов были собраны данные, и ИИ был обучен распознавать суицидальные чувства и намерения. Алгоритм дает правильный результат в 82% случаев, но менее явные или более размытые желания умереть все-таки проскакивают сквозь это сито. ''Теперь у нас больше данных, и мы можем повысить точность'', - говорит Huang. ''Но в этом нет смысла, если у нас не будет больше добровольцев''.

При том, что разработанный Huang алгоритм способен облегчить отслеживание суицидально окрашенных сообщений, предотвращение суицида остается задачей человека, а не машины. Поэтому Huang работает вместе примерно с 300 добровольцами, порядка 20 из которых живут в странах Европы: они направляют сообщения анонимным интернетчикам, пытаются установить связи и оказать помощь. Среди волонтеров есть и психологи, а ряд больниц предлагают бесплатную помощь.

''Бывает, что с человеком надо разговаривать каждый день'', - рассказывает один из волонтеров Пенг. ''Помню, была девушка из Нанкина, которую бросил молодой человек. Она совершенно не хотела жить, так что я не выпускал ее из поля зрения. С ней лично разговаривал доброволец на месте, в Нанкине. Она стабилизировалась где-то через полгода''.

Вторичность прайвеси
Если жизнь человека оказывается в опасности – согласно алгоритму, это балл 8 или выше – то добровольцы подчас связываются с членами семьи, друзьями человека, или с полицией. В этом они идут дальше Фейсбука, который направляет авторам суицидальных сообщений информацию, куда следует обратиться за помощью, но по причинам неприкосновенности частной жизни не посвящает в ситуацию друзей. ''Если жизнь человека в опасности, то прайвеси – дело второе'', - говорит Huang. ''Но мы ведем себя осторожно. Мы следуем правилу: остановись, если человек не хочет, чтобы ему помогали''.

По материалам:

Levens redden met een algoritme. – De Volkskrant, 27.08.19, p. 13.