“突然，溫斯頓轉(zhuǎn)過身來，表情祥和而樂觀。他是迫使自己這么做的，他認(rèn)為這是面對電子屏幕時的最好表情。”英國作家奧威爾在1949年出版的長篇小說《1984》中如是寫道。時時被“看著”或許在2021年成為現(xiàn)實。

1月27日，“鶴壁高中2021屆”微信公眾號發(fā)布的一則《1月18日至1月24日違紀(jì)情況通報》引發(fā)熱議，文中通報了95條高三學(xué)生違紀(jì)行為，除睡覺、玩手機外，還有“X班XXX哈欠不斷”“X班XXX腿上放棉襖”“X班XXX在抹護(hù)手霜”等細(xì)節(jié)動作，令人細(xì)思極恐。

隨著輿論發(fā)酵，1月28日，該公眾號刪除了文章并注銷賬號，鶴壁高中官方微信公眾號發(fā)布通報稱，該校高三年級在此事上存在方法不當(dāng)、管理不規(guī)范問題，責(zé)成年級主任做出深刻檢討，對涉及學(xué)生及家長公開致歉。

然而，鶴壁高中并不是個案。近年來，廣東廣雅中學(xué)、浙江金華金東區(qū)孝順鎮(zhèn)中心小學(xué)等學(xué)校也紛紛被曝使用智能設(shè)備監(jiān)控學(xué)生，又迫于壓力做出說明或撤銷使用。

愈演愈烈的“智慧校園”中，AI究竟是老師的助手，還是學(xué)生的牢籠？

01課堂表情分析有用嗎？

1月30日，鶴壁高中校長馮喜亮回應(yīng)媒體稱，學(xué)校的出發(fā)點是希望將下一代培養(yǎng)得更好，但方法欠妥。2月1日，《IT時報》記者致電鶴壁高中，一位負(fù)責(zé)人表示，智能監(jiān)控僅針對高三年級，目前已經(jīng)停用。

據(jù)多位業(yè)內(nèi)人士透露，這樣的“AI監(jiān)控”智慧課堂在校園已經(jīng)是普遍現(xiàn)象。在鶴壁高中的貼吧，家長已經(jīng)見怪不怪，“這次只不過是放在公眾號上，我們那屆家長群里每次都發(fā)，樓下也一直貼”。

“智慧課堂”的背后，隱藏著巨大的市場，在教育峰會、論壇上，“AI+教育”、人臉識別、表情分析等均是行業(yè)人士探討的熱詞。

希亞思（上海）信息技術(shù)有限公司（以下簡稱希亞思）是一家專門從事的“微表情識別”的公司，官網(wǎng)顯示，“AI+教育解決方案”采用了世界頂尖微表情識別AI公司的技術(shù)，目前已在上海十幾所實驗小學(xué)、重點中學(xué)的教研公開課上應(yīng)用。

這套“微表情識別”核心技術(shù)包括表情、人臉、肢體、聲紋識別和呼吸心跳監(jiān)測。只需在教室裝上一個攝像頭，就能同時識別多張人臉，分析7種情緒及21種表情，用于學(xué)生的坐姿管理、專注度分析等。

“它能實現(xiàn)學(xué)生個體評價和課堂整體評價，學(xué)生個體評價能幫助老師了解學(xué)生，改變結(jié)果評價的導(dǎo)向，填補過程評價的空白；課堂整體評價能檢測學(xué)生各時段對課堂的情緒反應(yīng)，反過來檢驗老師。系統(tǒng)每月會形成月報，可以進(jìn)行橫向、縱向?qū)Ρ?。”希亞思相關(guān)人士告訴記者，“從幼兒園到大學(xué)都有使用，每個階段的方案不一樣?！?/p>

課堂專注度分析真的有用嗎？

曾經(jīng)試點過“AI監(jiān)控”智慧課堂系統(tǒng)的另一所高中，半年后就停用了這套系統(tǒng)，該學(xué)校負(fù)責(zé)人對記者表示：“試點下來發(fā)現(xiàn)課堂專注度和學(xué)生成績沒有必然聯(lián)系，爭議也較大，所以我們沒有繼續(xù)使用?！彼裾J(rèn)并堅決反對將課堂專注度作為評價學(xué)生的標(biāo)準(zhǔn)，“課堂專注度只能是輔助參考，決不能作為評價學(xué)生的工具”。

21世紀(jì)教育研究院院長熊丙奇是“AI監(jiān)控”智慧課堂的堅決反對者。他表示，學(xué)生長期在監(jiān)控環(huán)境下學(xué)習(xí)，會養(yǎng)成“表演型人格”，同時也容易造成老師“離了技術(shù)不會教學(xué)”的現(xiàn)象，應(yīng)該叫停這種所謂技術(shù)創(chuàng)新。監(jiān)控只能在兩種情況下使用，一是用于考場監(jiān)控，二是在得到教師和學(xué)生的同意情況下，直播課堂教學(xué)，與其他學(xué)校、課堂共享教育資源。

02“從外到內(nèi)”的監(jiān)控

不僅是“AI監(jiān)控”，這些年，智能頭箍、智能手環(huán)、智能校服等打著“智慧校園”旗號的產(chǎn)品層出不窮。

2019年，浙江金華金東區(qū)孝順鎮(zhèn)中心小學(xué)的學(xué)生上課戴上了孫悟空的“金箍”。這是一個腦機接口頭環(huán)，通過收集和分析腦電波將學(xué)生專注力統(tǒng)計為0~100的分?jǐn)?shù)，這些分?jǐn)?shù)會記錄在老師的電腦中，甚至被發(fā)送到家長群里。

隨后，頭環(huán)創(chuàng)始公司BrainCo（強腦科技）發(fā)布聲明稱，賦思頭環(huán)是一款訓(xùn)練學(xué)生提升專注力的儀器，并非用來監(jiān)控學(xué)生。

一年多過去，情況怎么樣？近日，記者撥打了BrainCo的電話，對方表示，頭環(huán)仍在學(xué)校和培訓(xùn)機構(gòu)大量使用，不過進(jìn)入學(xué)校需要政府統(tǒng)一采購。

“頭環(huán)主要是用于專注力訓(xùn)練課，也可以用來檢測學(xué)生上課的專注度。”BrainCo客服表示，“一般認(rèn)為70~80分屬于高專注度，60分以下的專注度就較低”。而記者的同事曾體驗過此產(chǎn)品，稱需要特別專注，才能用“意念”驅(qū)動實驗小車。

戴頭環(huán)時需要告訴學(xué)生正在被監(jiān)測嗎？客服表示，可以以訓(xùn)練的名義。

相比價格不菲的智能頭箍，智能手環(huán)與手表的成本和便捷程度使它更便于普及。

深圳吾控健康科技有限公司（以下簡稱吾控健康）工作人員告訴記者，可以實時查看學(xué)生的考勤、定位、體溫、心率、課堂互動等數(shù)據(jù)，解決學(xué)生安全、健康等方面的問題。“比如，學(xué)生通過教學(xué)平臺參與答題，課后生成統(tǒng)計報告；老師根據(jù)學(xué)生心率、步數(shù)統(tǒng)計出不同運動量的孩子，給出對應(yīng)策略。這些技術(shù)都可以拓展應(yīng)用，比如誰和誰經(jīng)常在一起的聚集性分析、行為軌跡大數(shù)據(jù)分析、運動風(fēng)險管控等。”相關(guān)負(fù)責(zé)人表示，“近期，我們在一所幼兒園到高中的全日制寄宿學(xué)校安裝了1000多個藍(lán)牙網(wǎng)關(guān)，學(xué)生進(jìn)入教室和回到宿舍都能被看到?！?/p>

這些數(shù)據(jù)通過App、小程序、公眾號就能實時查詢，例如，吾控健康的手環(huán)數(shù)據(jù)分為家長端、教師端和學(xué)校端，家長端數(shù)據(jù)可以嵌入學(xué)校自己的公眾號。

2018年，貴州11所中小學(xué)的學(xué)生穿上了由貴州冠宇科技有限公司研發(fā)的“智能校服”。這件校服外表看似普通，但在左右肩膀下縫制了可以記錄生物數(shù)據(jù)和隨時定位的芯片。學(xué)生每次經(jīng)過門禁系統(tǒng)，系統(tǒng)都會自動拍攝10秒短視頻，20秒鐘后，這段視頻便會自動上傳到家長手機上，家長即可了解孩子每天進(jìn)校、離校的情況。

如今，智能校服被推廣到更多地區(qū)和學(xué)校。上海欽軒網(wǎng)絡(luò)科技有限公司（以下簡稱欽家）的智能校服通過智能碼與RFID將獨立加密成像與個人身份綁定，用于學(xué)生考勤、安防，目前已與全國300多家校服企業(yè)合作。

至于智能校服是否侵犯隱私，欽家表示，校服只在校門口記錄學(xué)生考勤情況，不會實時跟蹤。家長也可以先不激活服務(wù)，如果覺得有價值，再進(jìn)行開通。

03“智慧校園”應(yīng)有邊界

隨著AI的發(fā)展，“智慧校園”一直是一個巨大的市場，關(guān)于它的爭議也從未停止。

據(jù)統(tǒng)計，2019年我國智慧校園行業(yè)產(chǎn)值為584.46億元，預(yù)計2020年，這一數(shù)字將達(dá)到614.82億元。智慧校園產(chǎn)品市場可分為智慧校園系統(tǒng)和智慧校園硬件市場，其中，2019年智慧校園硬件規(guī)模為402.25億元，占智慧校園市場規(guī)模的71.33%。

無論是互聯(lián)網(wǎng)巨頭，還是像希亞思之類的AI垂直企業(yè)，都想在市場中分一杯羹。

但在巨大的利益面前，無論是學(xué)校還是企業(yè)，把握住“智慧校園”的邊界，才能守住學(xué)生人格的底線。

一位高中語文老師表示，鶴壁高中對學(xué)生課堂行為的監(jiān)控，體現(xiàn)的是學(xué)校對教學(xué)質(zhì)量的過度追求，但作為同行，她看到了大背景下學(xué)校的苦衷和無奈。如果“智慧課堂”觀察的重點不是對于學(xué)生行為的評價，而在于讓教師反思和提高自己的教學(xué)行為，就不存在涉及學(xué)生隱私的問題。事實上，數(shù)據(jù)與隱私始終是一對對立的矛盾，這不僅是學(xué)校的問題，而是整個現(xiàn)代文明社會的問題。

北京至普律師事務(wù)所李圣認(rèn)為，智慧校園、智慧課堂在教學(xué)信息化發(fā)揮的作用是值得肯定的，但需要注意對學(xué)生隱私和個人信息的保護(hù)。學(xué)校安裝監(jiān)控，只能安裝到教室、走廊等公共場所，不能安裝到廁所、宿舍。對于使用手環(huán)、頭箍等技術(shù)監(jiān)控，學(xué)校需要征得學(xué)生和家長的同意，保障其知情權(quán)。未經(jīng)本人及其法定監(jiān)護(hù)人同意，學(xué)校不得將所獲信息外傳，否則將承擔(dān)包括但不限于侵犯隱私權(quán)、肖像權(quán)、個人信息安全的侵權(quán)責(zé)任?！耙?guī)范AI在教育中的運用，需要從社會、政府和公眾的角度來考慮在人工智能的發(fā)展道路上什么是應(yīng)該做的、什么是不應(yīng)該做的，及早進(jìn)行規(guī)范和預(yù)判，加快人工智能倫理原則落地，讓人工智能提供的信息和服務(wù)幫助學(xué)生成長和發(fā)展。”李圣表示。