從“一鍵生成作文”到數據泄露隱患,學生用AI,邊界何在?

在某AI(人工智能)工具中輸入“五年級遊記,不要太複雜,有遊覽過程,中間和結尾提升環保主題”,不到30秒,屏幕上便跳出一篇結構完整、內容豐富的文章。

再輕輕滑動屏幕,快速瀏覽一遍後,調整幾個句式,摘除過分華麗的不屬於五年級水平的詞彙。就這樣,在北京某小學上五年級的劉曉暢輕輕鬆鬆便完成了清明假期的作文作業。

“只要不寫得太‘完美’,老師就察覺不到。”劉曉暢對《法治日報》記者說,“班上很多同學都在電腦、iPad、手機裏裝了AI應用,有時作業太多,時間不夠用,AI能幫上大忙。”

像劉曉暢這樣熟練使用AI應用的學生不在少數。某機構去年對全國範圍內14歲以上未成年人和學齡兒童家長展開的調查顯示:處於學習黃金階段的青少年對人工智能技術等前沿科技的瞭解意願較強烈,聽說過人工智能技術的青少年比例有92%,近半數青少年使用過人工智能產品,內容生成是主要用途之一,佔比超30%。

多名受訪家長反映,從語文作文,到數學方程,再到英語聽力,對孩子們來說,樣樣皆可求助AI。“這會不會影響孩子的自主學習能力?”“AI工具‘適當使用’的邊界在哪裏?”……不少家長對此亦有擔憂。

AI在學生羣體盛行

記者近日隨機採訪了北京、上海、貴州等地30名中小學生,幾乎所有受訪者都表示曾使用過AI輔助完成語文作文、英語翻譯、數學解題等作業。

“我用AI寫作文已經半年了,效果還不錯。”來自上海的高一學生林亮告訴記者,他常用AI生成作文初稿,再根據自己的想法進行修改,“初稿雖然有種濃濃的‘AI味’,但至少給了我一個思路,省去了很多思考的時間。這種做法沒啥不妥,反而是一種‘高效學習’的方法。”

在貴州貴陽某中學讀寄宿的王澤龍說,學校不允許學生攜帶手機,因此日常作業沒法用AI。但一到週末,如果作業寫不完,就用搜題軟件,拍照就能出結果。

記者試用了兩款在學生中較爲流行的App,發現這兩款App均有拍照作業批改、檢查等功能。AI寫作功能更是被兩款軟件單獨突出展示。輸入作文標題、寫作要求及字數要求,片刻間就能生成一篇成熟的文章。

“一些學生回家後完成的習作,交上來就‘AI裏AI氣’的。”北京市西城區某小學語文教研組組長段老師說,他通常會根據文章的邏輯連貫性、語言風格及是否貼合學生實際生活經驗等方面,判斷學生的作業是否由AI輔助完成。

記者採訪發現,除了中小學生外,一些大學生也在用AI工具輔助完成論文撰寫等作業。

“即使老師在佈置結課論文時百般強調‘現在AI這麼強大,禁止你們使用是不可能的,只希望大家用AI來獲取新的靈感,不要照搬照抄’。但一到期末,我們要寫很多篇論文,時間緊任務重,我和很多同學都會用AI寫論文。但沒有人會把AI生成的內容原封不動地粘貼到正式文本中,因爲AI給出的一些論文參考並不準確,所以我們通常是生成內容,自己再順幾遍,確保有十分的‘人味’和準確度。”在江蘇南京某高校讀研的李婷說。

教育數據公司麥可思發佈的2024年中國高校師生生成式AI應用情況研究顯示,國內高校師生幾乎都曾在學習和工作中使用過生成式AI,從未使用過生成式AI的高校師生比例僅爲1%。其中,近六成高校師生頻繁使用生成式AI。

AI是一把“雙刃劍”

學生完成作業是否需要此類“神器”輔助?頻繁使用AI會給學生帶來怎樣的影響?

“上課做幾乎全錯,回家做就幾乎全對。”北京市民張芳(化名)的孩子今年上小學六年級,她發現孩子在家寫作業都是用AI工具“一掃”“一搜”完成的,可一到課堂或者考試就露餡了,“這不是糊弄家長和學校嗎?如果是啓發孩子動腦思考、自主找尋答案還好,但直接告知答案,等同於作弊”。

在北京外國語大學法學院教授姚金菊看來,AI在教育中能夠根據學生的學習進度、理解能力和興趣,爲其量身定製學習內容,幫助學生有效提升學習效率。然而,這種個性化的幫助也可能導致學生缺乏對問題本質的深刻理解和對知識背後邏輯的探索,進而逐漸失去主動思考和自主探索的能力。

來自貴州貴陽某中學的數學教師湯捷認爲,對於中學生來說,使用AI完成作業弊大於利,因爲它會讓學生產生一定的依賴性。尤其是數學,學生長期用AI做題而不自己深入思考,數學思維就培養不出來。

“雖然現在流行AI進課堂,用於提高課堂效率,但教育是有溫度的,是針對人的教育,AI沒法代替師生間的互動。”湯捷說,爲了更好地教學,發掘教師和學生的主體價值,她開發了“四滿課堂”,並在授課時增加了“一課多問”的步驟,鼓勵學生對數學進行質疑與創新,拓展學習的邊界。

在湖南株洲某中學任教的英語老師李沐純說,自己贊成學校開展AI教育,但不贊成讓學生自由使用,因爲初中生自律性相對不足,尤其是小縣城中很多家長沒有充足的時間陪伴監督孩子,一些孩子爲了儘快玩耍就用AI寫作業。

中國傳媒大學文化產業管理學院法律系主任鄭寧指出,AI生成的文章在表達上有時候看似觀點很全面,但其中不乏邏輯性、準確性、真實性的問題,尤其會出現數據和材料的僞造情況,需要學生在使用AI時警惕可能帶來的學術倫理問題。

鬚髮揮AI輔助作用

記者梳理公開資料發現,爲杜絕AI在校園中的濫用,教育部和一些高校出臺了相關舉措。

2021年,教育部辦公廳印發通知,對加強教育App管理、推動與“雙減”政策銜接提出明確要求,對於提供和傳播“拍照搜題”等惰化學生思維能力、影響學生獨立思考、違背教育教學規律的不良學習方法的作業App,暫時下線。整改到位並經省級教育行政部門審覈後,方可恢復備案;未通過審覈的,撤銷備案。

福州大學發佈通知,對2024屆本科生畢業論文(設計)進行AI代寫的檢測,結果將作爲成績評定和優秀畢業論文評選的參考依據。

華東師範大學傳播學院聯合北京師範大學新聞傳播學院發佈《生成式人工智能學生使用指南》,規定使用生成式AI時應明確標註,且直接生成內容不超過全文的20%。

復旦大學發佈本科畢業論文(設計)使用AI工具的試行規定,明令禁止直接使用AI工具生成正文文本、致謝或其他組成部分,禁止使用AI工具進行語言潤色和翻譯等。

在姚金菊看來,對於未成年人來說,可以通過智能管理與權限分層來規範,通過“實名認證+人臉識別+設備綁定”三重驗證,防止未成年人冒用他人賬號用AI代寫作業。同時,硬件設備和數字化平臺可以通過技術手段根據不同年級向學生開放對應內容。教育、網信、公安等部門也應聯合加強監管,對違規App及時下架、實施相應處罰。

“學生要學會質疑AI生成的內容,評估其準確性和可靠性,培養自主判斷能力。在使用AI時,可以分階段、以輔助的形式使用,以自主構建的邏輯框架作爲AI優化的引導指令,真正發揮AI的輔助作用。學校和教師也可以通過制定明確的AI使用規範,規定文章中的AI生成內容比例。”姚金菊說。

與此同時,記者注意到,2024年,教育部辦公廳發佈《關於加強中小學人工智能教育的通知》,提出要於2030年前在中小學基本普及人工智能教育。北京、上海、深圳、杭州等地則更早拿出了行動方案。

有受訪者焦慮道:AI教育的本質是數據驅動,而這些數據直接關聯學生的個人信息。一旦數據泄露,將對學生的成長、安全乃至未來發展造成不可逆的傷害。

首都師範大學教育政策與法律研究院副院長蔡海龍建議,學校等教育機構在引入AI技術時,必須嚴格遵守數據保護法規,選擇安全可靠的產品和服務,並建立完善的數據管理和安全防護機制。技術提供商更應承擔起保護學生數據的重任,採用最先進的加密和匿名化技術,杜絕數據泄露的風險。

(文中受訪學生均爲化名)

作者|法治日報全媒體記者 趙麗 實習生 陳穎



Scroll to Top