在深圳外國語學校(集團)龍華高中部(下稱深外龍華高中部)的教室里,一名學生抬起手臂,迅速地拍打前排的同學。教室上方的攝像頭已經敏銳地捕捉到了這一行為。攝像頭背后的系統(tǒng)立即對手臂移動的加速度進行分析,發(fā)現(xiàn)數(shù)值超出同學間的“嬉鬧閾值”。隨即,系統(tǒng)向后臺發(fā)出了一條“潛在霸凌風險”的預警。
這不是電影中的場景,而是深外龍華高中部科創(chuàng)隊開發(fā)的“零欺凌計劃”系統(tǒng),在真實校園環(huán)境中的一次測試。“零欺凌計劃”系統(tǒng)基于學校監(jiān)控視頻,通過算法識別學生間可能存在的欺凌跡象。“零欺凌計劃”系統(tǒng)一旦發(fā)現(xiàn)風險,便會第一時間向學校和家長發(fā)送預警信息,努力對校園欺凌問題做到“早發(fā)現(xiàn)、早干預”。
談起為何要研發(fā)這個系統(tǒng),項目組組長、學生張博深回憶道:“我在讀小學時,看到過校園欺凌事件。但是當時我不敢站出來,去幫助那位同學。”說到這,他語氣一頓,流露出些許遺憾,“上了高中后,我加入了科創(chuàng)隊。后來我就想借助技術賦能,幫助受到校園欺凌的同學”。
“聽到他們說要研發(fā)一個防止校園霸凌的系統(tǒng),我還是挺欣慰的。”在深外龍華高中部科創(chuàng)隊指導教師王澤昊看來,成員們不僅關注到了校園欺凌這一問題,更難得的是,他們試圖以所學技術努力尋找解決的辦法。
決定開發(fā)這套防止校園欺凌的系統(tǒng)后,張博深和其他項目組成員在王澤昊的指導下,開始做研究。他們?yōu)檫@個項目取名為“零欺凌計劃”。起初,項目組成員們只是想通過語音識別特定關鍵詞,進行警報。然而,當他們第一次將作品帶出學校參賽時,發(fā)現(xiàn)現(xiàn)場有好多組作品“撞題”。
回到學校后,王澤昊組織成員們開會。“既然叫‘零欺凌’,我們?yōu)槭裁床话杨A警機制努力前置、從剛露出苗頭就開始干預呢?”王澤昊這一番話點醒了成員們。他們從常見的事中警報,轉向具有前瞻性的事前預警。
有了改進的目標后,項目組成員郝俊杰開始著手設計一套動作識別算法。“一開始的版本誤報率非常高,有時候兩個同學并肩走路,系統(tǒng)也會發(fā)出警報。”郝俊杰回憶道。團隊合力攻堅,張博深負責系統(tǒng)語音識別的模塊,郝俊杰負責代碼的編寫,張煥欣負責統(tǒng)籌與協(xié)調……在團隊成員努力下,系統(tǒng)基于傳統(tǒng)的監(jiān)控和警報裝置,能做出事前預警。
據介紹,系統(tǒng)一旦識別出疑似欺凌行為,教師會實時收到相關信息。教師進行人工審核,判斷是否存在欺凌行為。AI識別與人工審核建構的雙重判定機制,能對校園欺凌和學生玩鬧有效做區(qū)分。
如果系統(tǒng)與人工判定,某一學生存在欺凌同學的傾向,學校將進行干預。心理教師將介入,對其進行心理輔導和行為矯正。“我們希望通過盡早發(fā)現(xiàn)、盡早介入,盡量減少欺凌事件對同學的傷害。”項目組成員張煥欣表示。
在項目組教師和成員的共同努力下,“零欺凌計劃”持續(xù)完善。在中國國際大學生創(chuàng)新大賽(2025)高中萌芽賽道上,該系統(tǒng)斬獲深圳市一等獎。
在王澤昊看來,團隊成員們在這次項目中,不僅提升了解決復雜現(xiàn)實問題的能力,也對同理心驅動下的技術倫理觀有了深入思考。在完善系統(tǒng)時,如何平衡安全與隱私?如何避免算法帶來的二次傷害?在王澤昊看來,學生們在努力破解這些問題時,也在用實際行動推進“技術向善”。
(中國教育報-中國教育新聞網 記者 劉盾 通訊員 何藝彤)
工信部備案號:京ICP備05071141號
互聯(lián)網新聞信息服務許可證 10120170024
中國教育報刊社主辦 中國教育新聞網版權所有,未經書面授權禁止下載使用
Copyright@2000-2022 www.lmhko.cn All Rights Reserved.