原標(biāo)題：從“一鍵生成作文”到數(shù)據(jù)泄露隱患

學(xué)生用AI，邊界何在？

□ 本報(bào)記者 趙麗

□ 本報(bào)實(shí)習(xí)生 陳穎

在某AI（人工智能）工具中輸入“五年級(jí)游記，不要太復(fù)雜，有游覽過(guò)程，中間和結(jié)尾提升環(huán)保主題”，不到30秒，屏幕上便跳出一篇結(jié)構(gòu)完整、內(nèi)容豐富的文章。

再輕輕滑動(dòng)屏幕，快速瀏覽一遍后，調(diào)整幾個(gè)句式，摘除過(guò)分華麗的不屬于五年級(jí)水平的詞匯。就這樣，在北京某小學(xué)上五年級(jí)的劉曉暢輕輕松松便完成了清明假期的作文作業(yè)。

“只要不寫得太‘完美’，老師就察覺(jué)不到。”劉曉暢對(duì)《法治日?qǐng)?bào)》記者說(shuō)，“班上很多同學(xué)都在電腦、iPad、手機(jī)里裝了AI應(yīng)用，有時(shí)作業(yè)太多，時(shí)間不夠用，AI能幫上大忙。”

像劉曉暢這樣熟練使用AI應(yīng)用的學(xué)生不在少數(shù)。某機(jī)構(gòu)去年對(duì)全國(guó)范圍內(nèi)14歲以上未成年人和學(xué)齡兒童家長(zhǎng)展開的調(diào)查顯示：處于學(xué)習(xí)黃金階段的青少年對(duì)人工智能技術(shù)等前沿科技的了解意愿較強(qiáng)烈，聽說(shuō)過(guò)人工智能技術(shù)的青少年比例有92%，近半數(shù)青少年使用過(guò)人工智能產(chǎn)品，內(nèi)容生成是主要用途之一，占比超30%。

多名受訪家長(zhǎng)反映，從語(yǔ)文作文，到數(shù)學(xué)方程，再到英語(yǔ)聽力，對(duì)孩子們來(lái)說(shuō)，樣樣皆可求助AI。“這會(huì)不會(huì)影響孩子的自主學(xué)習(xí)能力？”“AI工具‘適當(dāng)使用’的邊界在哪里？”……不少家長(zhǎng)對(duì)此亦有擔(dān)憂。

AI在學(xué)生群體盛行

記者近日隨機(jī)采訪了北京、上海、貴州等地30名中小學(xué)生，幾乎所有受訪者都表示曾使用過(guò)AI輔助完成語(yǔ)文作文、英語(yǔ)翻譯、數(shù)學(xué)解題等作業(yè)。

“我用AI寫作文已經(jīng)半年了，效果還不錯(cuò)。”來(lái)自上海的高一學(xué)生林亮告訴記者，他常用AI生成作文初稿，再根據(jù)自己的想法進(jìn)行修改，“初稿雖然有種濃濃的‘AI味’，但至少給了我一個(gè)思路，省去了很多思考的時(shí)間。這種做法沒(méi)啥不妥，反而是一種‘高效學(xué)習(xí)’的方法。”

在貴州貴陽(yáng)某中學(xué)讀寄宿的王澤龍說(shuō)，學(xué)校不允許學(xué)生攜帶手機(jī)，因此日常作業(yè)沒(méi)法用AI。但一到周末，如果作業(yè)寫不完，就用搜題軟件，拍照就能出結(jié)果。

記者試用了兩款在學(xué)生中較為流行的App，發(fā)現(xiàn)這兩款A(yù)pp均有拍照作業(yè)批改、檢查等功能。AI寫作功能更是被兩款軟件單獨(dú)突出展示。輸入作文標(biāo)題、寫作要求及字?jǐn)?shù)要求，片刻間就能生成一篇成熟的文章。

“一些學(xué)生回家后完成的習(xí)作，交上來(lái)就‘AI里AI氣’的。”北京市西城區(qū)某小學(xué)語(yǔ)文教研組組長(zhǎng)段老師說(shuō)，他通常會(huì)根據(jù)文章的邏輯連貫性、語(yǔ)言風(fēng)格及是否貼合學(xué)生實(shí)際生活經(jīng)驗(yàn)等方面，判斷學(xué)生的作業(yè)是否由AI輔助完成。

記者采訪發(fā)現(xiàn)，除了中小學(xué)生外，一些大學(xué)生也在用AI工具輔助完成論文撰寫等作業(yè)。

“即使老師在布置結(jié)課論文時(shí)百般強(qiáng)調(diào)‘現(xiàn)在AI這么強(qiáng)大，禁止你們使用是不可能的，只希望大家用AI來(lái)獲取新的靈感，不要照搬照抄’。但一到期末，我們要寫很多篇論文，時(shí)間緊任務(wù)重，我和很多同學(xué)都會(huì)用AI寫論文。但沒(méi)有人會(huì)把AI生成的內(nèi)容原封不動(dòng)地粘貼到正式文本中，因?yàn)锳I給出的一些論文參考并不準(zhǔn)確，所以我們通常是生成內(nèi)容，自己再順幾遍，確保有十分的‘人味’和準(zhǔn)確度。”在江蘇南京某高校讀研的李婷說(shuō)。

教育數(shù)據(jù)公司麥可思發(fā)布的2024年中國(guó)高校師生生成式AI應(yīng)用情況研究顯示，國(guó)內(nèi)高校師生幾乎都曾在學(xué)習(xí)和工作中使用過(guò)生成式AI，從未使用過(guò)生成式AI的高校師生比例僅為1%。其中，近六成高校師生頻繁使用生成式AI。

AI是一把“雙刃劍”

學(xué)生完成作業(yè)是否需要此類“神器”輔助？頻繁使用AI會(huì)給學(xué)生帶來(lái)怎樣的影響？

“上課做幾乎全錯(cuò)，回家做就幾乎全對(duì)。”北京市民張芳（化名）的孩子今年上小學(xué)六年級(jí)，她發(fā)現(xiàn)孩子在家寫作業(yè)都是用AI工具“一掃”“一搜”完成的，可一到課堂或者考試就露餡了，“這不是糊弄家長(zhǎng)和學(xué)校嗎？如果是啟發(fā)孩子動(dòng)腦思考、自主找尋答案還好，但直接告知答案，等同于作弊”。

在北京外國(guó)語(yǔ)大學(xué)法學(xué)院教授姚金菊看來(lái)，AI在教育中能夠根據(jù)學(xué)生的學(xué)習(xí)進(jìn)度、理解能力和興趣，為其量身定制學(xué)習(xí)內(nèi)容，幫助學(xué)生有效提升學(xué)習(xí)效率。然而，這種個(gè)性化的幫助也可能導(dǎo)致學(xué)生缺乏對(duì)問(wèn)題本質(zhì)的深刻理解和對(duì)知識(shí)背后邏輯的探索，進(jìn)而逐漸失去主動(dòng)思考和自主探索的能力。

來(lái)自貴州貴陽(yáng)某中學(xué)的數(shù)學(xué)教師湯捷認(rèn)為，對(duì)于中學(xué)生來(lái)說(shuō)，使用AI完成作業(yè)弊大于利，因?yàn)樗鼤?huì)讓學(xué)生產(chǎn)生一定的依賴性。尤其是數(shù)學(xué)，學(xué)生長(zhǎng)期用AI做題而不自己深入思考，數(shù)學(xué)思維就培養(yǎng)不出來(lái)。

“雖然現(xiàn)在流行AI進(jìn)課堂，用于提高課堂效率，但教育是有溫度的，是針對(duì)人的教育，AI沒(méi)法代替師生間的互動(dòng)。”湯捷說(shuō)，為了更好地教學(xué)，發(fā)掘教師和學(xué)生的主體價(jià)值，她開發(fā)了“四滿課堂”，并在授課時(shí)增加了“一課多問(wèn)”的步驟，鼓勵(lì)學(xué)生對(duì)數(shù)學(xué)進(jìn)行質(zhì)疑與創(chuàng)新，拓展學(xué)習(xí)的邊界。

在湖南株洲某中學(xué)任教的英語(yǔ)老師李沐純說(shuō)，自己贊成學(xué)校開展AI教育，但不贊成讓學(xué)生自由使用，因?yàn)槌踔猩月尚韵鄬?duì)不足，尤其是小縣城中很多家長(zhǎng)沒(méi)有充足的時(shí)間陪伴監(jiān)督孩子，一些孩子為了盡快玩耍就用AI寫作業(yè)。

中國(guó)傳媒大學(xué)文化產(chǎn)業(yè)管理學(xué)院法律系主任鄭寧指出，AI生成的文章在表達(dá)上有時(shí)候看似觀點(diǎn)很全面，但其中不乏邏輯性、準(zhǔn)確性、真實(shí)性的問(wèn)題，尤其會(huì)出現(xiàn)數(shù)據(jù)和材料的偽造情況，需要學(xué)生在使用AI時(shí)警惕可能帶來(lái)的學(xué)術(shù)倫理問(wèn)題。

須發(fā)揮AI輔助作用

記者梳理公開資料發(fā)現(xiàn)，為杜絕AI在校園中的濫用，教育部和一些高校出臺(tái)了相關(guān)舉措。

2021年，教育部辦公廳印發(fā)通知，對(duì)加強(qiáng)教育App管理、推動(dòng)與“雙減”政策銜接提出明確要求，對(duì)于提供和傳播“拍照搜題”等惰化學(xué)生思維能力、影響學(xué)生獨(dú)立思考、違背教育教學(xué)規(guī)律的不良學(xué)習(xí)方法的作業(yè)App，暫時(shí)下線。整改到位并經(jīng)省級(jí)教育行政部門審核后，方可恢復(fù)備案；未通過(guò)審核的，撤銷備案。

福州大學(xué)發(fā)布通知，對(duì)2024屆本科生畢業(yè)論文（設(shè)計(jì)）進(jìn)行AI代寫的檢測(cè)，結(jié)果將作為成績(jī)?cè)u(píng)定和優(yōu)秀畢業(yè)論文評(píng)選的參考依據(jù)。

華東師范大學(xué)傳播學(xué)院聯(lián)合北京師范大學(xué)新聞傳播學(xué)院發(fā)布《生成式人工智能學(xué)生使用指南》，規(guī)定使用生成式AI時(shí)應(yīng)明確標(biāo)注，且直接生成內(nèi)容不超過(guò)全文的20%。

復(fù)旦大學(xué)發(fā)布本科畢業(yè)論文（設(shè)計(jì)）使用AI工具的試行規(guī)定，明令禁止直接使用AI工具生成正文文本、致謝或其他組成部分，禁止使用AI工具進(jìn)行語(yǔ)言潤(rùn)色和翻譯等。

在姚金菊看來(lái)，對(duì)于未成年人來(lái)說(shuō)，可以通過(guò)智能管理與權(quán)限分層來(lái)規(guī)范，通過(guò)“實(shí)名認(rèn)證+人臉識(shí)別+設(shè)備綁定”三重驗(yàn)證，防止未成年人冒用他人賬號(hào)用AI代寫作業(yè)。同時(shí)，硬件設(shè)備和數(shù)字化平臺(tái)可以通過(guò)技術(shù)手段根據(jù)不同年級(jí)向?qū)W生開放對(duì)應(yīng)內(nèi)容。教育、網(wǎng)信、公安等部門也應(yīng)聯(lián)合加強(qiáng)監(jiān)管，對(duì)違規(guī)App及時(shí)下架、實(shí)施相應(yīng)處罰。

“學(xué)生要學(xué)會(huì)質(zhì)疑AI生成的內(nèi)容，評(píng)估其準(zhǔn)確性和可靠性，培養(yǎng)自主判斷能力。在使用AI時(shí)，可以分階段、以輔助的形式使用，以自主構(gòu)建的邏輯框架作為AI優(yōu)化的引導(dǎo)指令，真正發(fā)揮AI的輔助作用。學(xué)校和教師也可以通過(guò)制定明確的AI使用規(guī)范，規(guī)定文章中的AI生成內(nèi)容比例。”姚金菊說(shuō)。

與此同時(shí)，記者注意到，2024年，教育部辦公廳發(fā)布《關(guān)于加強(qiáng)中小學(xué)人工智能教育的通知》，提出要于2030年前在中小學(xué)基本普及人工智能教育。北京、上海、深圳、杭州等地則更早拿出了行動(dòng)方案。

有受訪者焦慮道：AI教育的本質(zhì)是數(shù)據(jù)驅(qū)動(dòng)，而這些數(shù)據(jù)直接關(guān)聯(lián)學(xué)生的個(gè)人信息。一旦數(shù)據(jù)泄露，將對(duì)學(xué)生的成長(zhǎng)、安全乃至未來(lái)發(fā)展造成不可逆的傷害。

首都師范大學(xué)教育政策與法律研究院副院長(zhǎng)蔡海龍建議，學(xué)校等教育機(jī)構(gòu)在引入AI技術(shù)時(shí)，必須嚴(yán)格遵守?cái)?shù)據(jù)保護(hù)法規(guī)，選擇安全可靠的產(chǎn)品和服務(wù)，并建立完善的數(shù)據(jù)管理和安全防護(hù)機(jī)制。技術(shù)提供商更應(yīng)承擔(dān)起保護(hù)學(xué)生數(shù)據(jù)的重任，采用最先進(jìn)的加密和匿名化技術(shù)，杜絕數(shù)據(jù)泄露的風(fēng)險(xiǎn)。

（文中受訪學(xué)生均為化名）

[來(lái)源：法治日?qǐng)?bào) 編輯：孫寶震]