• RCS
• 2023 年 8 月 7 日
• 尚無留言

最近，資安廠商 SlashNext 發現駭客利用 AI 聊天機器人執行釣魚和惡意軟體攻擊。自稱CanadianKingpin12 的駭客在多個論壇中推銷名為 FraudGPT 的專用AI聊天機器人。

駭客用 ChatGPT 訓練暗黑軟體：FraudGPT

FraudGPT由CanadianKingpin12於各種黑客論壇中大力推銷，開發FraudGPT的目的是為了進行網路詐騙和駭侵攻擊。與其他AI聊天機器人不同，FraudGPT主要利用在暗網上出售的各種黑客資料集，以ChatGPT和Google Bard等大型語言模型（Large Language Model, LLM）來訓練。其主要功能包括發動成熟的釣魚攻擊以取得信用卡和密碼資料、執行先進的社交工程攻擊、利用資安漏洞發起攻擊、製造和散佈惡意軟體，以及利用 0-day 漏洞攻擊系統。

暗網中的ChatGPT非法交易猖獗

安全研究公司Group-IB揭示，超過10萬個被駭的ChatGPT帳號被放在暗網市場上出售。這些帳號的主人的設備上安裝了竊密軟體，導致帳號信息被洩漏。這些被竊密的ChatGPT帳號從去年6月的74個增加到了2023年5月的26,802個。受害裝置大部分位於亞太地區，接著是中東與非洲，然後是歐洲和拉丁美洲。最多受害者的國家是印度、巴基斯坦和巴西。由於ChatGPT預設會儲存使用者查詢的內容和AI的回答，被駭的帳號可能會洩露使用者的機密或敏感信息，並可能被用來對企業或員工進行精確攻擊。Group-IB的最新研究顯示，ChatGPT帳號已成為駭客的熱門目標。竊密軟體的簡單、實用且有效的特性使其成為駭客們最喜愛的工具之一。竊密軟體通常透過釣魚信或其他手段以最大化感染裝置數量。研究人員提醒，用戶應該小心來路不明的郵件、附件或連結，以避免成為受害者。

對資訊安全的挑戰

FraudGPT的出現，對於現有的網路安全防護系統帶來了巨大的挑戰。由於其可以自動化執行大規模的釣魚攻擊、社交工程攻擊以及利用各種漏洞進行攻擊，一旦被大規模部署，可能對網路安全構成重大威脅。因此，我們需要對這種新的威脅有所警覺，並尋找有效的防禦方式。這不僅需要資訊安全研究人員對AI技術有更深入的了解，也需要社會各界共同努力，包括政策制定者、科技公司和普通用戶，共同面對這一挑戰。