人工智能正在成為國(guó)際競(jìng)爭(zhēng)的新焦點(diǎn)，同時(shí)也為人類社會(huì)帶來(lái)了新的發(fā)展機(jī)遇。機(jī)器學(xué)習(xí)、自然語(yǔ)言處理、情感計(jì)算、虛擬現(xiàn)實(shí)等技術(shù)的迅猛發(fā)展，不僅為學(xué)生獲取更高質(zhì)量的教育體驗(yàn)提供了有力支撐，也有助于進(jìn)一步擴(kuò)展教師自由發(fā)展的空間。但與此同時(shí)，智能導(dǎo)師系統(tǒng)、智能數(shù)據(jù)挖掘等人工智能技術(shù)在教育應(yīng)用中面臨眾多倫理問(wèn)題，例如數(shù)據(jù)泄露、公共安全、惡意競(jìng)爭(zhēng)等。

　　人工智能(Artificial Intelligence，簡(jiǎn)稱AI)是計(jì)算機(jī)科學(xué)的一部分，包括研究、開(kāi)發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)等方面。教育人工智能倫理則是用以規(guī)范教育人工智能開(kāi)發(fā)及應(yīng)用過(guò)程中關(guān)系、行為的道理及準(zhǔn)則。

　　教育人工智能雖具備強(qiáng)大的數(shù)據(jù)整合與分析能力，但同時(shí)也會(huì)引發(fā)一系列新的倫理風(fēng)險(xiǎn)，系統(tǒng)來(lái)看，其主要體現(xiàn)在以下四個(gè)方面。

　　其一，信息安全。人工智能助力教育教學(xué)的同時(shí)，不僅為師生發(fā)展創(chuàng)造機(jī)遇，也產(chǎn)生了海量教育數(shù)據(jù)如個(gè)人身份信息、行為軌跡、學(xué)習(xí)偏好等。若此類數(shù)據(jù)并未得以有效保護(hù)或者被非法使用，則會(huì)引發(fā)一系列信息安全問(wèn)題，例如個(gè)人隱私資料被惡意泄露及不正當(dāng)使用、電子郵件的惡意推送、非法電子監(jiān)控、網(wǎng)絡(luò)詐騙、數(shù)據(jù)侵權(quán)等，師生的隱私權(quán)利在人工智能透視鏡下將變得十分脆弱。

　　其二，目標(biāo)沖突。教育人工智能的目標(biāo)沖突風(fēng)險(xiǎn)主要由人工智能開(kāi)發(fā)商、用戶的基本目標(biāo)不一致所產(chǎn)生的。對(duì)私營(yíng)部門(mén)來(lái)說(shuō)，由于商業(yè)利益至上的理念根深蒂固，可能會(huì)依托人工智能技術(shù)工具過(guò)度追逐私利。而且，不少教育人工智能設(shè)計(jì)者與開(kāi)發(fā)者缺乏致力于“教育公共服務(wù)”的責(zé)任意識(shí)，欠缺對(duì)教育成長(zhǎng)的價(jià)值關(guān)懷。若人工智能開(kāi)發(fā)商、學(xué)校管理團(tuán)隊(duì)未在人工智能的教育應(yīng)用方面達(dá)成目標(biāo)共識(shí)，則師生自身利益難以得到長(zhǎng)期的有效保障。

　　其三，缺乏制度約束。當(dāng)前，用于約束教育人工智能開(kāi)發(fā)與應(yīng)用的制度體系尚未健全，教育用戶的合法權(quán)益難以得到有效保障。而且，專業(yè)制度約束體系的缺位、失位及錯(cuò)位成為導(dǎo)致教育人工智能不道德行為出現(xiàn)的重要因素。若缺乏有效的技術(shù)標(biāo)準(zhǔn)與“強(qiáng)制性”法律手段加以規(guī)約，教育人工智能的設(shè)計(jì)開(kāi)發(fā)與實(shí)踐應(yīng)用可能會(huì)逐漸偏離教育價(jià)值與人文立場(chǎng)。應(yīng)對(duì)違反教育人工智能倫理規(guī)范的行為與舉措實(shí)施問(wèn)責(zé)與制裁，以便合理規(guī)約人工智能開(kāi)發(fā)人員、教育用戶等人的行為。

　　其四，過(guò)度資源依賴。當(dāng)前，機(jī)器學(xué)習(xí)和算法推薦雖然可實(shí)現(xiàn)教學(xué)資源的個(gè)性化推送，但這種看似公平合理的人工智能應(yīng)用，隱含著不為人知的算法歧視與技術(shù)偏向，可能導(dǎo)致學(xué)生所獲取的教學(xué)資源高度同質(zhì)化，學(xué)生逐漸形成資源依賴，不愿跳脫僵化思維，進(jìn)而影響了學(xué)生視野的開(kāi)闊及創(chuàng)新發(fā)展。而且，教師也可能為節(jié)省自身時(shí)間及工作成本，過(guò)度依賴人工智能推送的教學(xué)資源，喪失自身對(duì)于教育教學(xué)的獨(dú)特理解及思考。

　　理清相關(guān)倫理風(fēng)險(xiǎn)的消解路徑，有利于促使教育能夠合乎道德地利用人工智能機(jī)遇，并實(shí)現(xiàn)公平和道德的教育決策。

　　第一，注重智能時(shí)代師生信息素養(yǎng)培育。首先，需注重師生信息分辨力培育。學(xué)校應(yīng)引導(dǎo)師生對(duì)于信息資源獲取及篩選、信息倫理風(fēng)險(xiǎn)等問(wèn)題的理解與思考，增強(qiáng)師生信息分辨能力。其次，關(guān)注師生信息反饋力培育。學(xué)校應(yīng)引導(dǎo)師生合理反饋人工智能的信息安全、倫理、舒適感問(wèn)題，并構(gòu)建暢通的信息反饋渠道，以便持續(xù)改善人工智能的教育應(yīng)用成效。

　　第二，完善教育人工智能算法審查及決議機(jī)制。首先，應(yīng)注重構(gòu)建人工智能算法的審查機(jī)制。人工智能算法的運(yùn)行偏差有可能持續(xù)存在，甚至?xí)�被放大。�?yīng)制定有關(guān)人工智能算法培訓(xùn)和測(cè)試的基本規(guī)范與安全協(xié)議，對(duì)人工智能算法模型的前提假設(shè)進(jìn)行教育本質(zhì)層面的剖析，尤其應(yīng)審查教育人工智能算法系統(tǒng)是否包含算法歧視與濫用問(wèn)題，以便能最大限度保障用戶數(shù)據(jù)及信息的精確性、隱私安全以及倫理規(guī)范。其次，需明確人工智能教育應(yīng)用方案的決議機(jī)制。政府、學(xué)校、企業(yè)等均需秉承集思廣益的決策原則，鼓勵(lì)不同意見(jiàn)的提出與開(kāi)放討論，思考通過(guò)某種形式的投票與評(píng)價(jià)來(lái)決定教育人工智能應(yīng)用的最優(yōu)決定，致力于實(shí)現(xiàn)教育公共利益訴求的合理滿足。

　　第三，加強(qiáng)人工智能及數(shù)據(jù)的法規(guī)監(jiān)管。當(dāng)前教育人工智能發(fā)展暴露出眾多技術(shù)及數(shù)據(jù)失范問(wèn)題，因此，要完善智能技術(shù)及教育數(shù)據(jù)風(fēng)險(xiǎn)問(wèn)責(zé)機(jī)制，實(shí)現(xiàn)智能技術(shù)及數(shù)據(jù)的規(guī)范監(jiān)管。首先，可嘗試制定及頒布具有法律約束力的教育人工智能法規(guī)，規(guī)范技術(shù)開(kāi)發(fā)及應(yīng)用的倫理責(zé)任，非法開(kāi)發(fā)、使用及銷售人工智能的行為將面臨法律后果及責(zé)任。其次，注重教育人工智能應(yīng)用過(guò)程中的數(shù)據(jù)監(jiān)管，構(gòu)建專業(yè)的數(shù)據(jù)隱私監(jiān)管組織或機(jī)構(gòu)。隱私監(jiān)管組織或機(jī)構(gòu)應(yīng)在某項(xiàng)人工智能技術(shù)推廣應(yīng)用之前，評(píng)估該技術(shù)的數(shù)據(jù)安全情況，避免非法分享和使用數(shù)據(jù)。

　　第四，加強(qiáng)教育人工智能倫理風(fēng)險(xiǎn)排查與評(píng)估。實(shí)現(xiàn)有道德的教育人工智能，不可僅僅依靠技術(shù)改進(jìn)，還應(yīng)采用“系統(tǒng)化思想”審視與排查教育人工智能的倫理風(fēng)險(xiǎn)，這對(duì)于最大化保障教育公共利益是至關(guān)重要的。教育人工智能倫理風(fēng)險(xiǎn)的存在不僅涉及開(kāi)發(fā)階段，也涉及生產(chǎn)和分銷階段。除了確保教育人工智能設(shè)計(jì)的安全性外，還應(yīng)仔細(xì)評(píng)估智能算法倫理風(fēng)險(xiǎn)、教育數(shù)據(jù)倫理風(fēng)險(xiǎn)等的危害等級(jí)，以便及時(shí)制定教育人工智能倫理風(fēng)險(xiǎn)化解方案。

　　第五，構(gòu)建校本化教育人工智能倫理規(guī)范體系。校本化的教育人工智能倫理規(guī)范體系必須高度公正且具有可解釋性，明確規(guī)定人工智能在學(xué)校應(yīng)用的基本要求、審查程序及倫理規(guī)范，并對(duì)技術(shù)開(kāi)發(fā)商、學(xué)校管理人員等人在教育人工智能倫理監(jiān)管的職責(zé)、權(quán)利和義務(wù)予以合理劃分與限定。學(xué)校管理人員可基于學(xué)校層面教育人工智能倫理規(guī)范體系，為人工智能在學(xué)校教育中的應(yīng)用設(shè)置許可權(quán)限。若某項(xiàng)人工智能技術(shù)在應(yīng)用中產(chǎn)生了重大倫理風(fēng)險(xiǎn)，則應(yīng)根據(jù)倫理風(fēng)險(xiǎn)的評(píng)估等級(jí)對(duì)人工智能的應(yīng)用許可權(quán)限進(jìn)行適當(dāng)限制。

　　(趙磊磊系江南大學(xué)教育學(xué)院副教授，代蕊華系華東師范大學(xué)教育學(xué)部教授、教育部中學(xué)校長(zhǎng)培訓(xùn)中心主任。本文系中國(guó)高等教育學(xué)會(huì)2020年專項(xiàng)重點(diǎn)課題“高校信息化安全風(fēng)險(xiǎn)防范與化解研究”[2020XXHD04]成果)