北晚首页

新闻社会

人工智能抓取网络“危险”内容,“树洞行动”向轻生者伸出援手

2019-08-07 13:28 北京晚报 TF021

黑夜降临,年轻人敲击键盘倾吐心声。与此同时,还有一群“多管闲事”的人,隐匿在网络之中,抓取并分析着“危险”内容。一年多来,通过人工智能技术加载现代化“树洞”,他们让数以百计轻生者打消念头。“树洞行动”发起人黄智生相信,即便在黑暗深处,也有晨光熹微。

目标 抓取数据捕捉高风险信息

“我想找个晴朗的天气烧炭,穿舒服的睡衣,就好像只是睡着了”……

22:00,当日“树洞简报”生成,十位微博用户的评论被判定为高风险留言。黄智生将这些评论内容、微博地址等信息转发到“树洞行动救援团”微信群,很快消息一条接一条弹出——

“需要对4号女孩进行正面疏导。”

“我来”,“拉我一下!”即刻间,围绕“4号女孩”的救援小组成立。精神医生、心理咨询师,以及各行业志愿者们,于网络另一端纷纷向“4号女孩”发送私信,彻夜逐条翻看她以往发布的信息,寻找能够建立联系的蛛丝马迹……每晚,伴随简报发布,这样的救援都会紧张开展。

树洞,一个源于童话中的概念。在故事里,它是理发师倾吐“皇帝长了驴耳朵”的具象空间。网络时代,人们能够更为便利地冲着虚拟树洞表达心声,亦可看到别人笔下那些不为人知的秘密。

无意间读到“树洞”的概念,首都医科大学大脑保护高精尖中心抑郁症人工智能创新团队首席科学家,从事30余年人工智能研究的黄智生隐隐感到,为“树洞”加载人工智能是个值得探索的方向。

“人工智能属于应用型学科,要与实际场景结合,近年来精神健康问题尤其是抑郁症十分突出。”同时黄智生注意到,微博中有的用户已经逝去,页面不再更新,但留下的页面里,每天还会有大量评论涌入。“一些人对生活失去希望,会选择在主人离去的页面倾吐情绪。”

这些微博,便是黄智生想要关注的现代化“树洞”。2018年4月2日,在一个500人的医学人工智能群,他正式提出“树洞行动”目标——抓取并解读微博“树洞”页面里的留言评论,从而发现高风险人群,拯救他们的生命,“树洞行动救援团”也随之成立。

救援 拯救生命是最高伦理

“树洞行动”的核心工具,是一款被称作“树洞机器人”的软件程序,每天从微博中筛选出10条“危险”信息并形成简报。经多次算法改进,机器人从去年7月的001号更迭到如今的004号。不断添加的知识图谱令它覆盖关键词更广,对语义判断也更“聪明”。

按黄智生提出的标准,自杀风险分为10个等级。6级表示已在计划,方式日期未明;7-9级分别表示,方式确定,日期未明/大致确定/近日;最危险的10级则意味着,自杀正在进行,必须马上救援。

目前004号机器人只在微博中排名靠前的4-5个“树洞”运行,且监控风险限定在6级以上。这主要缘于“树洞行动”人手有限,即便在每天筛选的10条信息里,也只能救助2至3人。

此外,监控风险等级定得较高,是考虑到隐私问题。在黄智生看来,如果对方只是表达痛苦,没有直接生命危险,不应随意去打扰。而若风险达到9级乃至10级,他的态度也很坚决——隐私毫无疑问应该让渡,拯救生命是最高伦理。

“我已经把门窗关好,炭烧起来了……”

黄智生回忆,这是机器人曾经捕捉到的一条“树洞”留言,短短一句话,就达到了10级风险标准。救援团里十几个人立即行动,从用户以往发布的信息中找到了他注册的一家公司以及电话号码。“打过去是他妈妈接的,我们说你儿子已经在烧炭了!他妈妈还说不可能,他正在房间睡觉呢。我们连连催她去看,发现果真如此,救援团比他的家人更早获知了危险。”

在黄智生的最初设想中,将“机器人”开发出来,识别信息,通知到轻生者亲友,救援就算结束了。然而实践中大家发现,对于8、9级的“将来时”风险,往往家人并不能理解。说孩子有吃有穿,没道理轻生,就是不想奋斗,在装病。

因此许多情况下,志愿者需要付出大量精力去亲自救援。今年5月,一个女孩发了条评论,被一个男孩响应。为进一步获取他们的行动时间、地点,救援团里一位心理咨询师、一位大学老师进行伪装,与他们取得联系。

得知女孩要从郑州去武汉,大学老师买了同次列车的票。找到女孩后,从晚上十点到凌晨五六点一直暗中观察保护着她。另一批人则在汉口火车站守候赶来见面的男生,最终两人被成功拦截。为了这两条年轻生命,15人组成的救援小组整整奔忙了两天。

新生  陌生人的关心让她在河边拼命流泪

一年多来,“树洞救援团”也遇到过情势紧急,又难以与轻生者或其亲友取得联系的状况。万不得已时会选择报警,通过网络警察定位,再由当地警察去阻止。令黄智生感慨的是,从起初对方不明所以或将信将疑,到现在说是树洞救援团对方就积极配合,“树洞行动”已得到了警方的认同和支持。

而无论采用何种方式,获救者都会知道自己向“树洞”倾诉的秘密,实际上被救援团抓取并阅读了,但他们对这种“侵犯”并不介意。黄智生分析,轻生者都处于绝望之中,发现有人不带任何目的想要提供帮助,会感到一丝温暖。

曾有位获救的女孩告诉黄智生,当她准备跳河时,手机里涌进来二三十条私信。读着这些陌生人的关心,她眼泪拼命地流,在岸边坐了几个小时,最后放弃了轻生念头。

而救援只是暂时的,后续陪伴更加“润物细无声”——很多人因为抑郁症而产生轻生意图,基本上需要病愈,才能被判断其状态已经“安全”。这一过程中,每个辗转无眠的深夜,每次情绪的反复,都少不了志愿者的殷殷守候。“树洞行动到现在一年多,我们陪伴最久的获救者就有一年多的。有的获救者在病愈后,还申请成为树洞救援的志愿者,以自己的经历劝阻轻生者,更有说服力。”

精神医生、心理专家、获救者、普通人……伴随“树洞行动”名声渐响,不断有人加入到救援团中,目前微信群成员超过360人,一系列救援指南、策略也已形成并发布。7月18日,中国首家心理障碍特殊人群关爱基地——“树洞救援团关爱基地”在武汉正式启动。

“树洞行动”发展至今,黄智生坦言自己根本就没有想到。“没有任何经费补贴,几百人跟你一起坚持,也不提什么要求。”令他触动的早已不是人工智能技术本身,而是这样一群有爱心的人。

来源:北京晚报 记者:魏婧 制图 宋溪

流程编辑:TF021

分享到

美国一户家中摄像头突然说话,播放粗俗音乐,拔电源改密码都没用

清华大学网红自行车“成精”,“类脑芯片”正向人脑逼近

探秘世界人工智能大会:除了高端“未来诊室”,AI还能送外卖

商汤科技汤晓鸥2019人工智能大会开幕演讲(附全文)

国内人工智能城市北京排名首位,AI相关投资总额已超550亿元

智源学者候选人名单公布,清华北大教授等10位科学家入选

北京发布70年科技创新发展成就,人工智能产业规模达1500亿

中小学生比拼人工智能 创作出能认出主人的储物柜

百个“智慧校园”示范基地将建,北京将支持学校利用人工智能技术

探营北京智源人工智能研究院,全国最牛的AI专家和后备人才都往这儿聚

人工智能为“树洞”照进一束光,以百计轻生者打消念头

中纪委网站消息:中国盐业集团有限公司原董事长茆庆国被开除党籍

北京一逆行轿车被车流顶着倒退百米 交警处罚来了

中纪委网站消息:退休多年后,广西出版传媒集团原董事长、总裁杜森被查

判了!石林峡景区6岁男童缆车坠落案,景区赔偿近40万元

中医诊所雇佣“医托”拉人卖假药,16人因诈骗罪今受审

老师们也有许多焦虑?不知道如何教育自家娃,他们有秘方帮忙解决