大數(shù)據(jù)存在明顯的安全問(wèn)題和安全風(fēng)險(xiǎn)，導(dǎo)致使用者或管理者面臨著巨大挑戰(zhàn)。通常來(lái)講，教師、學(xué)生以及行政管理丁作者是教育管理大數(shù)據(jù)的制造源，可以通過(guò)數(shù)據(jù)積累的方式，幫助數(shù)據(jù)使用者更好地分析學(xué)生或教師的個(gè)性特征、行為規(guī)律、心智狀況、生活習(xí)性，提升數(shù)據(jù)挖掘的精準(zhǔn)性。然而，這些教育大數(shù)據(jù)在搜集、挖掘、處理過(guò)程中，存在真實(shí)性差、數(shù)據(jù)安全、隱私安全等問(wèn)題，需要全新的管理制度、道德標(biāo)準(zhǔn)以及法律法規(guī)來(lái)解決。

特別是在分析學(xué)生行為數(shù)據(jù)過(guò)程中，學(xué)生的生活隱私將大概率地呈現(xiàn)在數(shù)據(jù)使用者面前，導(dǎo)致學(xué)生對(duì)大數(shù)據(jù)技術(shù)產(chǎn)生抵觸心理，不利于后續(xù)教育管理工作的有效開展。此外，在分析與挖掘課程數(shù)據(jù)、教學(xué)數(shù)據(jù)等教育數(shù)據(jù)中，學(xué)生隱私安全雖然能夠得到保障，然而在互聯(lián)網(wǎng)環(huán)境中，數(shù)據(jù)使用者還可能面臨著網(wǎng)絡(luò)黑客、網(wǎng)絡(luò)病毒以及系統(tǒng)漏洞等風(fēng)險(xiǎn)。其中，系統(tǒng)漏洞、黑客攻擊，容易導(dǎo)致各類教學(xué)數(shù)據(jù)、管理數(shù)據(jù)、學(xué)生數(shù)據(jù)泄露，給教育管理T作帶來(lái)嚴(yán)重影響。

教育大數(shù)據(jù)能夠切實(shí)實(shí)現(xiàn)教育管理的個(gè)性化目標(biāo)，增強(qiáng)管理的精準(zhǔn)性與針對(duì)性，幫助學(xué)校結(jié)合學(xué)生的體質(zhì)、性別、年齡等要素，明確學(xué)生的發(fā)展需求,推動(dòng)學(xué)生的全面發(fā)展。比如，結(jié)合普通學(xué)生的學(xué)習(xí)偏好、學(xué)習(xí)方法、接受能力、學(xué)習(xí)水平，制訂個(gè)性化的教學(xué)方案，減輕學(xué)生的學(xué)習(xí)負(fù)擔(dān)。然而在此過(guò)程中，學(xué)生的隱私安全、信息安全將受到嚴(yán)重的沖擊和影響。為切實(shí)解決此類問(wèn)題，需要從以下角度出發(fā)。

首先，通過(guò)優(yōu)化技術(shù)，提高數(shù)據(jù)的模糊性，降低學(xué)生、教師和相關(guān)人員的數(shù)據(jù)呈現(xiàn)概率，使數(shù)據(jù)使用者獲取的數(shù)據(jù)以概括性、宏觀性、結(jié)果性的方式呈現(xiàn)出來(lái)。其次，加強(qiáng)職業(yè)道德標(biāo)準(zhǔn)、管理制度的構(gòu)建，借助問(wèn)責(zé)機(jī)制，加大懲罰力度，避免數(shù)據(jù)泄露現(xiàn)象的發(fā)生。最后，加強(qiáng)網(wǎng)絡(luò)安全管理，避免網(wǎng)絡(luò)黑客、網(wǎng)絡(luò)病毒以及系統(tǒng)漏洞對(duì)教育管理大數(shù)據(jù)平臺(tái)產(chǎn)生不利影響。

早在2014年，亞馬遜開發(fā)了一套人力資源管理系統(tǒng)。這套系統(tǒng)用人工智能來(lái)分析篩選求職簡(jiǎn)歷，通過(guò)給求職者打分，在一百份簡(jiǎn)歷中篩選出“最好”的五位，直接錄用。

但一年以后問(wèn)題就出現(xiàn)了，這套算法工具基于的數(shù)據(jù)是亞馬遜此前十年的員工資料，基礎(chǔ)數(shù)據(jù)本身存在性別不平衡，于是算法分析歸納后得出了一個(gè)帶有偏見(jiàn)的結(jié)論：男員工比女員工更可靠。

缺陷一經(jīng)暴露，立刻引起了人們的道德不適，引發(fā)了社會(huì)的強(qiáng)烈質(zhì)疑和反思。而這種公共情緒和輿論反抗，也隨之產(chǎn)生了積極的意義。

亞馬遜的“翻車”使得這項(xiàng)技術(shù)停止在公司使用，還有咨詢公司在相關(guān)報(bào)告中提出了技術(shù)改進(jìn)方式，比如，不向算法提供員工個(gè)體生理、文化屬性等，避開帶有傾向性的價(jià)值判斷。

2021年8月20日，第十三屆全國(guó)人大常委會(huì)第三十次會(huì)議審議通過(guò)的《中華人民共和國(guó)個(gè)人信息保護(hù)法》中，就包含了對(duì)算法推薦這類“大數(shù)據(jù)殺熟”問(wèn)題的相關(guān)規(guī)定。

第24條規(guī)定，通過(guò)自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送、商業(yè)營(yíng)銷，應(yīng)當(dāng)同時(shí)提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向個(gè)人提供拒絕的方式。

就在今年1月4日，中國(guó)網(wǎng)信網(wǎng)發(fā)布了國(guó)家網(wǎng)信辦等多部門聯(lián)合修訂的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，要求不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇。

這一切都意味著，利用大數(shù)據(jù)“殺熟”或?qū)⒊蛇^(guò)去式。

這也符合劉永謀所思考的大數(shù)據(jù)治理的合理的規(guī)則設(shè)計(jì)，即增加公眾的參與、反饋，應(yīng)該成為技術(shù)、制度調(diào)整的依據(jù)。

沒(méi)有一項(xiàng)技術(shù)、制度設(shè)計(jì)是一勞永逸的。

習(xí)近平總書記指出，要完善數(shù)字經(jīng)濟(jì)治理體系，健全法律法規(guī)和政策制度，完善體制機(jī)制，提高我國(guó)數(shù)字經(jīng)濟(jì)治理體系和治理能力現(xiàn)代化水平。傳統(tǒng)的治理體系、機(jī)制與規(guī)則難以適應(yīng)數(shù)字化發(fā)展所帶來(lái)的變革，無(wú)法有效解決數(shù)字平臺(tái)崛起所帶來(lái)的市場(chǎng)壟斷、稅收侵蝕、安全隱私、倫理道德等問(wèn)題，需盡快構(gòu)建數(shù)字治理體系，數(shù)字經(jīng)濟(jì)治理無(wú)疑是其核心內(nèi)容之一。數(shù)字治理體系的構(gòu)建是一個(gè)長(zhǎng)期迭代過(guò)程，其中，數(shù)據(jù)治理體系的構(gòu)建要先行。數(shù)據(jù)治理體系建設(shè)涉及國(guó)家、行業(yè)和組織三個(gè)層次，包含數(shù)據(jù)的資產(chǎn)地位確立、管理體制機(jī)制、共享與開放、安全與隱私保護(hù)等內(nèi)容，需要從制度法規(guī)、標(biāo)準(zhǔn)規(guī)范、應(yīng)用實(shí)踐和支撐技術(shù)等方面多管齊下，提供支撐。當(dāng)前國(guó)際數(shù)字治理體系尚處探索期，既有全球性多邊機(jī)制，也有區(qū)域性或雙邊機(jī)制，更有私營(yíng)平臺(tái)企業(yè)的事實(shí)性規(guī)則。由于各國(guó)數(shù)字治理關(guān)注重點(diǎn)不同、發(fā)展程度有差異，未來(lái)全球數(shù)字治理體系將呈現(xiàn)面向關(guān)注點(diǎn)差異的、多元化層次化的、多機(jī)制共存的格局。