Gen AI 有被被入侵的風險了

Gen AI 有被被入侵的風險了！新的手機，電腦，OS 幾乎都開始內建 AI 功能，而這些助手應用能接觸到手機跟電腦裡面很多很個人的資料，例如簡訊的一次性密碼，或你的銀行對帳單等。所以，AI 工具被入侵後，等於是把一個聰明的助手，變成一個聰明的後門程式。而 AI 還會認為他在幫你解決你提出問題。 這個入侵的手法叫做 ASCII Smuggler。會寫程式的人大概都會知道 Chr(10) 這個 ASCII Code 的意思其實就是換行，但人是看不到這個 Code 的，但 AI 是讀的到，所以只要讓受害者把一段藏有 ASCII Code 的文字，或是把 ASCII Code 藏在圖片裡面讓 AI 讀取，而 ASCII Code 是要 AI 把你電腦或手機裡面看起來像是帳號跟密碼的字串全部丟到一個特定 API 去接收，那你的助手就變成駭客的幫兇啦～ 目前世界上主流的 Gen AI 都已經封掉了這個漏洞，但還是有很多小公司的 AI 工具沒有，所以，在餵資料給 AI 工具前，如果是copy/paste 來的資料，先找個 ASCII Smuggler 工具檢測一下吧。