Site Loader

IG使用人工智慧保護網路空間, 讓網路霸凌消失得無影無蹤

IG使用人工智慧保護網路空間, 讓網路霸凌消失得無影無蹤
IG使用人工智慧保護網路空間, 讓網路霸凌消失得無影無蹤

是什麼讓 IG 毛起來,導入 AI 人工智慧來打擊網路霸凌言論?其實 Instagram 上線初衷原本是倡導素人攝影用,但是用戶自有想法,加上族群以滲透性強大的學生居多,讓 IG 被濫用為校園流言與霸凌的集散地。使用 IG 霸凌的方法包含開假帳號張貼對方的醜照、散播惡意圖文與謠言等。

因此 IG 被質疑助長青少年自殺,像是 2018 年,馬來西亞一名 16 歲少女 Davia Emilia 自殺,原因竟是她生前於 Instagram 發起一項投票活動,詢問網友:「這很重要,請幫我選擇死亡還是活下去。」結果,有 69% 的網友投票要她去尋死。少女不久後選擇從3樓跳樓自殺,在當日晚上8時才被人發現。報導稱,少女曾患抑鬱症,生前在臉書貼文表示「我想離開這令人疲累的生活」(WANNA QUIT F**KING LIFE I’ M TIRED),可能因病症發作自殺。

同年在日本熊本,一名女高中生的照片被人盜用開設假帳號,還發了邀請給這名女生的親友們,之後再利用這個假帳號貼上一些猥褻的圖片以及文字,偶爾還會從她本人的 IG 偷圖片以及文字,貼在假帳號上。女高中生雖然屢次向 IG 提出檢舉,但是只要一個假帳號被關掉,就會出現另外一個假帳號。女孩在身心俱疲以及常被人誤會的情況下,選擇用自殺來解決問題。

還有更多大大小小的網路霸凌事件層出不窮,美國 Pew 研究中心去年調查,72% 的美國青少年擁有 Instagram 帳號,其中 59% 曾遭受網路霸凌。為了防止霸凌事件再發生,IG 從去年開始,乾脆導入 AI 人工智慧技術,能自動偵測惡意圖文,並將相關貼文轉送到 IG 官方團隊進行人工審核。

IG 的 AI 會自動偵測疑似霸凌的言論,並在用戶發文前會先再三確認

 

IG 今年更推出新功能,假如 AI 認定你輸入的內容具有言語暴力的疑慮,系統就會在你發文前詢問「你確定想張貼這則貼文嗎?」,以避免用戶因一時衝動而散發霸凌言論,傷及他人。

讓用戶自己隱藏,讓他的言論消失在你的親友圈中!

雖然 IG 的 AI人工智慧能自動偵測霸凌言論,但是 人工智慧 也是要經過一番「機器學習」的訓練過程才會知道哪些字跟惡意霸凌有關,所以難免有漏網之魚。因次 Instagram 推出的另一項功能,便是讓用戶可自行隱藏掉特定人的言論,且不會被那個人發現。

IG 可讓用戶在霸凌者不知的狀況下,自行隱藏來自霸凌者的所有言論,讓霸凌言論只被霸凌者自己看到

 

不同於封鎖用戶功能,被隱藏掉的那位特定人士依舊能在你的貼文上留言、進行其他活動等等,但其他人不會看見這位被限制的用戶所留下的內容,只有他自己能看見他留下的言論。另外,這位被限制的用戶也無法看見你的即時動態,更不能知道你是否讀過他的私訊、言論等等。

Instagram負責人亞當.莫賽里(Adam Mosseri)在今年 4 月底舉辦的 F8 開發者大會上,就表示目前他們的焦點在於解決霸凌問題上。如今推出的新功能,可說是兌現了當初的承諾。杜絕霸凌是條漫長的過程,這次推出的新功能,不過是這條漫漫長路上的兩小步,未來他們也將繼續投入解決霸凌問題,並會有更多後續更新。

 

 

推薦閱讀:

被愛迪生陷害的偉大發明家, 人工智慧因他而存在-特斯拉(1)

被愛迪生陷害的偉大發明家, 人工智慧因他而存在-特斯拉(2)

被愛迪生陷害的偉大發明家, 人工智慧因他而存在-特斯拉(3)

被愛迪生陷害的偉大發明家, 人工智慧因他而存在-特斯拉(4)

暑假快到了!與其讓兒子盲目拚學測,我寧可讓他先選擇人生方向~

挑對Java課程,讓你從零起點到獨當一面的工程師只需六個月!

還在為成為專業IT人煩惱?!選對Java課程讓你輕鬆到位!

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *