【猎云网（微信号：ilieyun
）】11月28日报道 （编译：小白）
近日，Facebook上线了一项新功能，能通过AI技术主动扫描检测用户博文中的自杀倾向，并在必要时向用户或他们的朋友发送相关的精神健康资源或联系当地急救人员。通过这一功能，Facebook可以减少发现问题、寻求帮助的时间。
之前，Facebook在美国也曾测试过使用AI来检测有问题的帖子，并及时向好友发出通知。由于欧盟的通用数据保护条例，使得用户行为分析方面的技术不太容易获得授权。所以，Facebook的这一技术将在除欧盟以外的全球范围使用。
Facebook还将使用AI来优先处理特定风险或紧急用户报告，以便人类调解员可以迅速及时地处理这类问题，并立即获取当地语言资源和急救人员的联系方式。此外，Facebook也将聘请更多人类调解员来预防自杀事件，并培训他们全天候处理这些案例。目前，Facebook已有80多个合作伙伴，如Save.org、National Suicide Prevention Lifeline和Forefront，共同为面临危险的用户和他们的社交网络提供帮助。
产品管理副总裁盖伊·罗森表示：“这样做的目的在于，减少过程中每一步骤的时间，尤其是在Facebook Live上。在过去一个月的测试中，Facebook已经发起了超过100次的“健康检查”，让急救人员登门帮助那些受自杀困扰的用户。有时候，试图自杀的用户仍在直播中，急救人员已经到达。”
Facebook主动扫描用户帖子的做法，也许会引发某些反乌托邦人士的担忧。他们会对技术究竟如何被应用感到忧虑。罗森对此只是简单地表示“我们可以从这方面提供帮助，因此我们决定进行投资，思路就这么简单。”
这项技术能带来的好处自然很多，这点毋庸置疑。但另一方面，作为用户我们其实并没有多少选择，只能希望Facebook不会越界。
扎克伯格在今日更新的帖子中大力称赞了该产品，他写道：“未来，人工智能将能够进一步了解语言之间的细微差别，并能够识别出除自杀以外的其他问题，包括欺凌和仇恨。”
不过，当媒体询问到用户是否可以选择性退出使用该产品时，Facebook的发言人表示：用户不能自主选择退出。他们指出，该项功能旨在提高用户自身安全，如果用户拒绝将无法享受到Facebook提供的帮助资源。
据了解，Facebook主要是通过识别之前有自杀风险的帖子中出现的言辞与图片来训练AI。同时，AI也会对类似于“你还好吗？”和“你需要帮助吗？”这样的评论做出回应。
罗森说道：“我们已经和心理健康专家进行了交流。预防自杀最好的方法之一，就是让需要帮助的人听到关心他们的朋友和家人的意见。这一点，让Facebook处于一个非常特别的位置。我们可以帮助身处于绝望中的人们联系到能够帮助他们的朋友和组织机构。”
“防自杀”模式
通过AI、人类调解员和大量报告，Facebook可以设法防止悲剧的发生。比如，上个月一名父亲在Facebook Live上直播自杀这种悲剧，就完全可以避免。直播特别容易给这类不健康的自杀行为戴上“光环”。由于所有人都能够同步看到这类内容，造成的影响也十分广泛。因此，平台必须采取新的预防措施。
现在，如果有人在任何类型的Facebook帖子中表达出自杀的倾向，AI将能够检测出来，标记发送给人类调解员，进而采取下一步措施。
当新的报告出现时，Facebook会显示出与“自杀风险模式”相匹配的那部分帖子或视频内容。这样以来，人类调解员就不需要花费时间浏览整个帖子或视频。相比于暴力、色情内容，AI会优先处理这些有自杀倾向的案例。Facebook表示，自杀倾向报告上报到相关机构的速度是其他情况的两倍。
接下来，Facebook会从合作伙伴那里调取当地的救护资源，包括自杀预防热线和附近的相关机构。调解员之后可以联系当地急救人员，向他们发送危险用户的位置，并向用户本人弹出心理咨询链接，或者联系该用户的亲友以寻求帮助。罗森说：“我们的目标之一，就是确保我们的团队能够在全球范围内，在我们支持的任何语言下迅速做出回应。”
早在二月份，扎克伯格就曾写道“如果有人能够在惨剧发生时或之前就及时报告，无数惨剧本可以得到避免……而人工智能可以为我们提供一种更好的解决办法。”
Facebook拥有20多亿用户，因此其能够在这方面挺身而出诚然是件好事。一方面，Facebook确实为用户创造了一种互相联系并彼此关心的方式；而另一方面，不幸的是，Facebook也在直播平台上创造了一个无中介的实时分享渠道，让施加在用户自己或他人身上的暴力得以传播。
