Старший исследователь искусственного интеллекта в Свободном университете Амстердама Хуан Чжишен разработал алгоритм, который распознает суицидальные сообщения на микроблоговой платформе Weibo — китайском аналоге Twitter. Находящиеся поблизости добровольцы команды Tree Hole получают тревожные сигналы и не дают человеку добровольно уйти из жизни, сообщает ВВС.
Алгоритм оценивает оставленные сообщения по степени опасности суицида в 10-балльной шкале. Добровольцы, находящиеся за десятки тысяч километров от компьютера, где работает программа, обычно оповещаются, если рейтинг твита больше шести. Некоторых из потенциальных самоубийц удается успокоить дистанционно, других получалось спасти в последний момент. За 18 месяцев работы программы добровольцы Tree Hole предотвратили около 700 самоубийств в Китае.
Напомним, что Facebook также начал использовать искусственный интеллект для выявления суицидальных склонностей пользователей. Алгоритм анализирует как тексты, так и трансляции Facebook Live. Расценив пользователя как потенциального самоубийцу, он находит его положение и направляет туда аварийные службы. Однако эксперты считают, что ошибки в работе ИИ могут сами спровоцировать пользователей на самоубийства. Во-первых, блокируя возможность публичного обсуждения этой проблемы, а во-вторых, заранее подталкивая людей к мысли о суициде.
