News

訂定AI管制規範

(2026/5/27)

 諾貝爾生醫獎得主愛德華.莫澤對AI未來發展可能失控,感到憂心忡忡。他認為人類可能失去對AI的控制,導致AI掌控世界,也可能讓有心人透過設計程式操控AI,控制人類生活的一切,決定人們獲得的資訊,操弄人們的思想與心智。

 人類原本和鳥類、貓狗一樣,具有心智地圖感知能力。牠們大腦的空間與時間感,對於覓食、躲避天敵、尋找伴侶,是賴以生存的本能。而人腦的「網格細胞」(構成大腦定位系統的細胞),在大腦中扮演人體GPS,幫助人們知道身在何處、辨別方向。由於人類過度依賴紙本地圖、公車、計程車、手機,不再探索訓練使用,而漸漸失去這種感知能力。

 人類過度依賴AI,恐削弱創造力、記憶力、專注力和批判性思維的能力。引發「數位失智症」後,更將任務「外包給AI」,大腦宛如休克而成為更沒有能力的人。將自己的思考過程交給機器人,即使AI編造的假訊息,也無從判斷真偽,嚴重的話恐引發政治、社會的動盪。

 科技巨頭競相發展AI,人類必須訂定AI管制規範,監管AI的發展,防止失控。AI發展重心應轉向「駕馭工程」,將責任歸屬、風險控管等治理提前在設計階段完成。限制權限、增加檢查流程、保留人工覆核,加強記錄與異常偵測機制;嚴格要求可控性和追究性,是為發展AI的核心課題。