北晚首页

新闻社会

人工智能抓取网络“危险”内容,“树洞行动”向轻生者伸出援手

2019-08-07 13:28 北京晚报 TF021

黑夜降临,年轻人敲击键盘倾吐心声。与此同时,还有一群“多管闲事”的人,隐匿在网络之中,抓取并分析着“危险”内容。一年多来,通过人工智能技术加载现代化“树洞”,他们让数以百计轻生者打消念头。“树洞行动”发起人黄智生相信,即便在黑暗深处,也有晨光熹微。

目标 抓取数据捕捉高风险信息

“我想找个晴朗的天气烧炭,穿舒服的睡衣,就好像只是睡着了”……

22:00,当日“树洞简报”生成,十位微博用户的评论被判定为高风险留言。黄智生将这些评论内容、微博地址等信息转发到“树洞行动救援团”微信群,很快消息一条接一条弹出——

“需要对4号女孩进行正面疏导。”

“我来”,“拉我一下!”即刻间,围绕“4号女孩”的救援小组成立。精神医生、心理咨询师,以及各行业志愿者们,于网络另一端纷纷向“4号女孩”发送私信,彻夜逐条翻看她以往发布的信息,寻找能够建立联系的蛛丝马迹……每晚,伴随简报发布,这样的救援都会紧张开展。

树洞,一个源于童话中的概念。在故事里,它是理发师倾吐“皇帝长了驴耳朵”的具象空间。网络时代,人们能够更为便利地冲着虚拟树洞表达心声,亦可看到别人笔下那些不为人知的秘密。

无意间读到“树洞”的概念,首都医科大学大脑保护高精尖中心抑郁症人工智能创新团队首席科学家,从事30余年人工智能研究的黄智生隐隐感到,为“树洞”加载人工智能是个值得探索的方向。

“人工智能属于应用型学科,要与实际场景结合,近年来精神健康问题尤其是抑郁症十分突出。”同时黄智生注意到,微博中有的用户已经逝去,页面不再更新,但留下的页面里,每天还会有大量评论涌入。“一些人对生活失去希望,会选择在主人离去的页面倾吐情绪。”

这些微博,便是黄智生想要关注的现代化“树洞”。2018年4月2日,在一个500人的医学人工智能群,他正式提出“树洞行动”目标——抓取并解读微博“树洞”页面里的留言评论,从而发现高风险人群,拯救他们的生命,“树洞行动救援团”也随之成立。

救援 拯救生命是最高伦理

“树洞行动”的核心工具,是一款被称作“树洞机器人”的软件程序,每天从微博中筛选出10条“危险”信息并形成简报。经多次算法改进,机器人从去年7月的001号更迭到如今的004号。不断添加的知识图谱令它覆盖关键词更广,对语义判断也更“聪明”。

按黄智生提出的标准,自杀风险分为10个等级。6级表示已在计划,方式日期未明;7-9级分别表示,方式确定,日期未明/大致确定/近日;最危险的10级则意味着,自杀正在进行,必须马上救援。

目前004号机器人只在微博中排名靠前的4-5个“树洞”运行,且监控风险限定在6级以上。这主要缘于“树洞行动”人手有限,即便在每天筛选的10条信息里,也只能救助2至3人。

此外,监控风险等级定得较高,是考虑到隐私问题。在黄智生看来,如果对方只是表达痛苦,没有直接生命危险,不应随意去打扰。而若风险达到9级乃至10级,他的态度也很坚决——隐私毫无疑问应该让渡,拯救生命是最高伦理。

“我已经把门窗关好,炭烧起来了……”

黄智生回忆,这是机器人曾经捕捉到的一条“树洞”留言,短短一句话,就达到了10级风险标准。救援团里十几个人立即行动,从用户以往发布的信息中找到了他注册的一家公司以及电话号码。“打过去是他妈妈接的,我们说你儿子已经在烧炭了!他妈妈还说不可能,他正在房间睡觉呢。我们连连催她去看,发现果真如此,救援团比他的家人更早获知了危险。”

在黄智生的最初设想中,将“机器人”开发出来,识别信息,通知到轻生者亲友,救援就算结束了。然而实践中大家发现,对于8、9级的“将来时”风险,往往家人并不能理解。说孩子有吃有穿,没道理轻生,就是不想奋斗,在装病。

因此许多情况下,志愿者需要付出大量精力去亲自救援。今年5月,一个女孩发了条评论,被一个男孩响应。为进一步获取他们的行动时间、地点,救援团里一位心理咨询师、一位大学老师进行伪装,与他们取得联系。

得知女孩要从郑州去武汉,大学老师买了同次列车的票。找到女孩后,从晚上十点到凌晨五六点一直暗中观察保护着她。另一批人则在汉口火车站守候赶来见面的男生,最终两人被成功拦截。为了这两条年轻生命,15人组成的救援小组整整奔忙了两天。

新生  陌生人的关心让她在河边拼命流泪

一年多来,“树洞救援团”也遇到过情势紧急,又难以与轻生者或其亲友取得联系的状况。万不得已时会选择报警,通过网络警察定位,再由当地警察去阻止。令黄智生感慨的是,从起初对方不明所以或将信将疑,到现在说是树洞救援团对方就积极配合,“树洞行动”已得到了警方的认同和支持。

而无论采用何种方式,获救者都会知道自己向“树洞”倾诉的秘密,实际上被救援团抓取并阅读了,但他们对这种“侵犯”并不介意。黄智生分析,轻生者都处于绝望之中,发现有人不带任何目的想要提供帮助,会感到一丝温暖。

曾有位获救的女孩告诉黄智生,当她准备跳河时,手机里涌进来二三十条私信。读着这些陌生人的关心,她眼泪拼命地流,在岸边坐了几个小时,最后放弃了轻生念头。

而救援只是暂时的,后续陪伴更加“润物细无声”——很多人因为抑郁症而产生轻生意图,基本上需要病愈,才能被判断其状态已经“安全”。这一过程中,每个辗转无眠的深夜,每次情绪的反复,都少不了志愿者的殷殷守候。“树洞行动到现在一年多,我们陪伴最久的获救者就有一年多的。有的获救者在病愈后,还申请成为树洞救援的志愿者,以自己的经历劝阻轻生者,更有说服力。”

精神医生、心理专家、获救者、普通人……伴随“树洞行动”名声渐响,不断有人加入到救援团中,目前微信群成员超过360人,一系列救援指南、策略也已形成并发布。7月18日,中国首家心理障碍特殊人群关爱基地——“树洞救援团关爱基地”在武汉正式启动。

“树洞行动”发展至今,黄智生坦言自己根本就没有想到。“没有任何经费补贴,几百人跟你一起坚持,也不提什么要求。”令他触动的早已不是人工智能技术本身,而是这样一群有爱心的人。

来源:北京晚报 记者:魏婧 制图 宋溪

流程编辑:TF021

分享到

如何利用人工智能来实现终生学习?《智能学习的未来》中这几个问题值得思考

人工智能VS顶尖农人

友好近邻!中国智能技术助力韩国“智慧防疫”,效率提升5倍以上

人大北师大新增人工智能专业,两校今年在京招生规模不变

人工智能会取代人类吗?清华研究员:人类天生具备“秘密武器”

智能阅片、无人清扫消毒车……战“疫”少不了这些高科技!

友谊医院“智慧护理”:来院就诊机器人“带路”,出院随访蜡笔小新来电

专为高中生打造的人工智能教材今年出版,由图灵奖得主姚期智领衔编写

今年起东城将建5至10所“未来学校”,探索人工智能与教育融合

人工智能挑战日本“高考”题 满分200分得了185分

小学就玩编程!清华“90”后博士创业一年,公司已融资近亿元

2019北京智源大会开幕 百余位中外顶尖专家谋划人工智能发展

以古琴为纽带,构建运河雅文化——“琴韵运河”主题讲座

延迟退休真的要来了!专家建议女性退休年龄延至55岁

国务院重磅发文!进口冷链食品无消毒证明不能卖

重点城市房租继续下跌,已跌入5年来最低水平

绑定多个手机号影响“健康宝”行程核验?赶紧看过来!

北京市民对人口普查有疑惑可用多种方式解决,上微信公众号打电话都可以