近日，美國紐約肖托夸縣的治安官Joseph Gerace看到過許多自殺行為，在他成為公職人員之前，他最好朋友的父親就以自殺結束了自己的生命。去年7月一位Facebook安全團隊的成員打電話給911中心的調度員稱，當地一位居民需要緊急救助。Gerace稱：“這能夠幫助我們提升公共安全。我們不會干預人們的私生活，但是如果出現危險我們就會介入。”

去年8月份肖托夸縣當地媒體報道的第一起自殺案例就是由Facebook追蹤到的，當時公司收到舉報稱一位女性在她的Facebook上發出了自殺的信息。多年以來，Facebook都允許內部審核人員對自殺內容進行審查，并且決定是否需要通過自殺預防熱線為用戶提供幫助，或者在緊急情況下讓公司的法律反應團隊介入。
隨著技術的不斷發展，對于Facebook來說必然存在一種工程學方案來應對自殺行為。大約1年以前，Facebook增加了新技術，能夠自動標記涉及自殺意圖的帖子供公司審查員進行分析。去年11月份，Facebook已經證實這個新系統已經獲得了成效。
據Facebook稱，這個新系統標記的涉及自殺想法的帖子數量已經提升了20倍，收到Facebook自殺預防系統幫助的人數也增加了兩倍。公司也一直在對系統的語言和Instagram的自殺預防系統進行升級，但目前仍然處于研發的早期階段。周三時Facebook也公布了關于這項技術更多的細節。
雖然表現自殺想法的帖子很少，但自殺是一種很普遍的威脅。據美國疾病控制和預防中心的數據，自殺在美國死亡原因中排名前十，在年齡15到34歲之間的死亡原因中排名第二，僅次于意外傷害。
Facebook自2013年建立一座人工智能(AI)研究實驗室并且雇傭著名的研究人員Yann LeCun作為負責人之后，就開始打造AI人才和技術。實驗室已經創造出許多令人印象深刻的技術，比如說借助用戶照片識別物體、將文本內容轉變成其它語言等等。
包括亞馬遜、蘋果、谷歌和微軟在內的所有科技巨頭都在AI領域投資升級自己的服務和平臺。但是自殺預防并非AI研究人員關注的熱門話題。曾在雅虎和微軟AI部門任職的一位Facebook研究科學家Umut Ozertem稱：“我從未聽說過自殺預防系統，但它讓我非常感興趣。自殺行為曾讓我失去了三位好朋友。”
Facebook對于自殺預防的探索已經超過了10年，自殺預防也是谷歌和微軟正在進行的事情。比如說，如果有人用谷歌搜索“我想自殺”，就會出現國家自殺預防熱線的電話號碼。微軟則會在搜索結果中顯示救助中心的信息，并且讓用戶在Xbox線上服務上報自殘信息。