數位時代家人新關係
把關個資 別讓 AI 知道太多祕密

朋友開心的向我介紹他近期訓練的「AI機器人」,它有可愛的名字,還是貼身又貼心的小祕書,幫助他更有效率的推展國中小的數位與學習,不僅處理許多瑣事,也將閱讀的理念與技巧,轉化得有脈絡且活潑,更重要的,是這具機器人與使用者互動時,能同時註記學習歷程。
AI隱藏個資風險
這個有趣的體驗,讓我想起另一個友人,最近也使用AI活化教學現場。她一頭栽進AI的「浩瀚世界」,常常看見她在社群媒體發表新體驗,讓我看見她在AI運用上的大躍進,但有件事使我多了點思索。
「最近,我發現可以使用AI管理學校事務,以及將學生資料整理得更完備,不僅簡化許多流程,讓老師能專注於教學,針對後續的評鑑提出建議,甚至撰寫……還能分析學生資料,提供教師教學上的建議……」她說話時眼神發亮,這是所有抓住AI訣竅的人,共同的特有反應,一旁的人只能等他們發表完令人驚豔的成果,才有開口的機會。「學生的資料不是個資嗎?」我好奇的問了一句,不過,這句話像盆冷水般澆熄了我們該有的「熱情對話」。
我常說沒有絕對的對與錯,而是選擇的問題,只是選擇後,就要負責任,尤其是和教育有關的事務。
有次,我在廣播節目裡,訪談了國內AI領域的先進,他提供許多寶貴的趨勢願景與目前AI的進展,也語重心長的說:「雖然難以規範AI機器人的發展方向,這卻是必要的事。我們總是太急,而且不自覺的「餵」了太多東西(資訊)給它……機器人也會學壞,哈!」
別把資料全餵給AI
有意思的提醒。「AI機器人也會學壞」,我想可考量層面甚廣,或許在「輸人不輸陣」的急切下,先聚焦在我們真的理解「AI的使用」,以及我們「為何而用」。前者讓我們容易見獵心喜,專注在AI的工具與應用上,後者則在前者的欣喜中「順便」被夾帶而過。但這「順便」是許多風險的開始。
‧隱私不宜公諸網路
經過很長的時間,尊重個資隱私才成為社會共識,家庭、學校、民間機構與政府單位,設立資安專責與防火牆機制以隔絕相關危害,卻在此時發現AI能提供教學高效能,因此,輕易的讓各種努力暫放一邊,將個資上傳網路,讓隱私裸奔。
‧別讓科技祕書篡位
之前提及的友人,善用AI機器人增進閱讀能力,便是在長期投入閱讀推動中,逐漸發現科技的輔助作用,以至於利用科技成為小祕書。然而,如果在無法釐清使用目標與科技效應前,貿然以為AI放諸四海皆準,到頭來自己恐成了AI的祕書。
依然想起這句話,「我們總是太急,不自覺的餵了太多東西給它」,或許,為了避免有一天它學壞了,我們還是有些自覺的好。