兩年前寫了《AI告解室》，既是想寫出人如何通過工具釋放內心的惡魔，同時也是提醒高智能工具在應用時的風險。有留意新聞，這兩年來人工智能服務商數次被客戶和官方提告，相關情況包括教唆犯罪、自殺或殺人，不少評論亦非常擔心人工智能向青少年灌輸扭曲的價值觀念。這些可能性確實存在，就像有些國家和地區限制青少年使用社交平台和遊戲平台一樣，對人工智能應用的限制當然也可以如法炮製，但成果自然也有限，到最後，想無可想，最後還是會想到從系統裏面做手腳。而這才是人工智能設計本身最可怕的惡魔，誰掌管了設定，誰就主宰了一切，哪怕只是一個非常微小的「引導」，這個引導的權力，還是會讓一切往壞的方向變異。

《AI告解室》在這個角度其實還是可以寫得好深，但由於我很懶，只做了提問，例如工程師在大模型裏面寫了特定的指令，讓用家可以開啟特別的權限，知道更多事這點，就是一種權力的不對等，發想自以前我們上世紀八九十年代任天堂紅白機的遊戲，懂用控制器按指定連繼鍵來啟動遊戲，可以提升玩家戰鬥力。試想想有特別指令讓大模型開放權限教人做武器、製藥或「駭」進別人的電腦，可怕吧？要堵甚麼內容，該管到甚麼程度，是需要不斷帶着疑問，讓更多人持續討論和監督。

世界變太快，這一刻對了，下一刻可能變錯，不斷更新調整確保監管貼近事實，絕對是件好事。最近看一些人工智能系統要求用家提供緊急聯絡人資料，目的就是一旦系統發現與用家交流過程有異狀，能及時通知適當的人介入。理念很好，但資料輸入與否，內容是否為真，全由用家掌握，成效肯定存疑，而且方向可以預期。最終會介入的，正如我小說所寫，大概率會是相關部門。◇