看到AI社團在討論北捷AI事件,我剛好岔出去談一下乙巳年的資安問題。
有看過我的2025年流年趨勢預測的朋友都曉得,我一再強調資安安控是2025年的關鍵議題,前陣子北捷AI被prompt injection就反應了這樣的跡象。
因為癸年破軍化祿、甲年廉貞化祿到乙年天機化祿的原因, 2025年一定會有大量的企業導入生成式AI應用於客服,尤其是電商和實體服務業,這都是prompt injection或是乾脆就是從Chatgpt洩漏企業個資,就是企業要思考的問題。
如果從純技術層面來說,國內的大廠例如輔信等公司都開始發展本機AI業務,基於預算考量也有人考慮雲端部署。這些方案有需要的企業都可以自行評估。
從命理學的角度來說,我可以幫公司經營者看你公司是否有資料外洩或被資安破壞的跡象。
我過去在外面授課談營業秘密時都提到一點,營業秘密外洩最難防的通常都還是內鬼去攜帶資料出去,營業秘密問題等有脆友有興趣再談好了。