披露：此處表達的觀點和觀點僅屬于作者，不代表crypto.news社論的觀點和觀點。
人工智能正在加劇金融犯罪，金融業的防御能力正在落后。犯罪分子現在使用人工智能來創建令人信服的深度造假、精心設計的網絡釣魚攻擊并大規模偽造合成身份。這些策略的進展速度比傳統合規系統能夠跟蹤的更快，暴露了當前方法中的致命缺陷。
盡管這種威脅規模巨大，但許多組織都急于部署自己的人工智能系統，而沒有確保這些工具是可解釋的、透明的，甚至是完全理解的。除非可解釋性成為用于財務合規的任何人工智能系統的基線要求，否則我們有可能用另一種形式的不透明來取代一種形式的不透明，這將無法與公眾或監管機構建立信任。
軍備競賽已經開始
人工智能被用來使舊的犯罪更快，更便宜，并促進新類型犯罪的實施。考慮一下最近合成身份欺詐的激增。網絡犯罪分子使用人工智能將真實和虛假數據縫合成真實的、捏造的身份。這些個人資料可以開設帳戶、獲得信用并繞過驗證系統，同時與真正的用戶幾乎沒有區別。
Deepfake技術為武器庫增添了另一件武器。現在，只需最少的努力就可以產生令人信服的首席執行官、監管者甚至家庭成員的模仿。這些視頻和音頻片段被用來發起欺詐性交易、誤導員工并引發內部數據泄露。
甚至網絡釣魚也發生了變化。人工智能驅動的自然語言工具可以根據每個目標的公共數據、在線行為和社交背景，制作針對每個目標量身定制的超個性化、語法正確的消息。這些不是過去拼寫錯誤的垃圾郵件。它們是定制攻擊，旨在贏得信任和獲取價值。在加密貨幣領域，網絡釣魚正在蓬勃發展，人工智能正在加速這一趨勢。
合規工具陷入了前人工智能時代
挑戰不僅僅在于這些威脅的速度或規模;還在于攻擊者的創新和防御者的惰性之間的不匹配。傳統的基于規則的合規系統是被動且脆弱的。它們依賴于預定義的觸發器和靜態模式識別。
機器學習和預測分析提供了更具適應性的解決方案，但其中許多工具是不透明的。他們在不清楚如何得出結論的情況下產生了產出。“黑匣子”問題不僅僅是技術限制。這是一個令人頭疼的合規問題。
沒有可解釋性，就沒有問責制。如果金融機構無法解釋其人工智能系統如何標記交易（或未能標記交易），那么它就無法向監管機構、客戶或法院捍衛其決定。更糟糕的是，它可能無法檢測到系統本身何時做出有偏見或不一致的決策。
可解釋性是安全要求
一些人認為，要求人工智能系統具有可解釋性將減緩創新。那是短視的。可解釋性并不是奢侈品;這是信任和合法性的要求。如果沒有它，合規團隊就會盲目飛行。他們可能會檢測到異常情況，但他們不知道原因。他們可能會批準模型，但無法對其進行審計。
金融部門必須停止將可解釋性視為技術獎勵。這應該是部署的一個條件，尤其是對于涉及KWC/ML、欺詐檢測和交易監控的工具。這不僅僅是最佳實踐。這是必不可少的基礎設施。
在加密貨幣這樣快速發展的空間，信任已經脆弱且審查嚴格，這變得更加緊迫。人工智能在安全和合規方面的使用不僅必須有效，而且必須明顯公平、可審計和可理解。
協調一致的回應是不容談判的
金融犯罪不再是孤立事件。僅2024年，非法交易額就達到510億美元，這一數字可能低估了人工智能增強攻擊的作用。沒有任何公司、監管機構或技術提供商能夠單獨應對這一威脅。
協調一致的應對措施必須包括：
- 強制要求用于高風險合規職能的任何人工智能系統具有可解釋性。
- 使共享的威脅情報能夠在公司之間揭示新的攻擊模式。
- 培訓合規專業人員詢問和評估人工智能輸出。
- 要求對欺詐檢測和KKC中使用的ML系統進行外部審計。
速度永遠很重要。但沒有透明度的速度是一種負擔，而不是一種功能。
人工智能并不中立，濫用也不是
對話必須轉變。僅僅詢問人工智能是否合規“工作”是不夠的。我們必須問一下它是否值得信任。可以審問嗎？審核過？明白了嗎？
不回答這些問題將使整個金融體系面臨風險。不僅僅是犯罪分子，還有我們用來阻止他們的工具。
如果我們不把透明度建立在我們的防御中，那么我們就不是在捍衛這個系統。我們正在自動化它的失敗。
羅伯特·麥克唐納是Bybit的首席法律與合規官，Bybit是全球交易量第二大加密貨幣交易所。羅伯特在公共部門、傳統金融和加密貨幣行業擁有近二十年的經驗，是監管合規、法律治理和打擊金融犯罪方面經驗豐富的專家。羅伯特在倫敦開始了他的職業生涯，專門研究金融犯罪，后來在英國任職司法部。他的旅程跨越了各大洲，在世界上一些最著名的金融機構擔任領導職務，包括全球資產管理巨頭、韓國領先的電子商務平臺和主要加密貨幣交易所幣安。羅伯特在Bybit任職期間，負責監管由法律顧問和合規專業人士組成的全球團隊，負責應對不斷變化的監管格局。他的團隊致力于解決許可、遵守司法管轄要求、反洗錢（ML）、了解客戶（KKC）協議以及負責任的客戶入職問題。確保Bybit在其全球業務范圍內誠信和合規地運營。
