人工智慧（AI）的快速發展既帶來了收益，也帶來了風險。

一個令人擔憂的趨勢是語音克隆的濫用。騙子可以在幾秒鐘內克隆一個聲音，並誘騙人們認為朋友或家人急需錢。

新聞媒體，包括CNN，警告此類詐騙有可能影響數百萬人。

由於科技使犯罪分子更容易侵入我們的個人空間，因此對其使用保持謹慎比以往任何時候都更加重要。

什麼是聲音克隆？

人工智慧的興起為圖像、文字、語音生成和機器學習創造了可能性。

雖然人工智慧提供了許多好處，但它也為詐欺者提供了利用個人牟利的新方法。

您可能聽過“深度造假”，其中人工智能被用來創建虛假圖像、視頻甚至音頻，通常涉及名人或政客。

語音克隆是一種深度偽造技術，透過捕捉人的聲音來創造人的聲音的數位複製品言語模式、口音和呼吸來自簡短的音頻樣本。

一旦捕捉語音模式，人工智慧語音產生器就可以將文字輸入轉換為類似於目標人聲音的高度逼真的語音。

隨著技術的進步，語音克隆只需三秒音訊樣本。

雖然是一個簡單的短語，例如“你好，有人嗎？”可能會導致聲音克隆詐騙，較長的對話有助於詐騙者捕獲更多的聲音細節。因此，在確定來電者的身分之前，最好先保持通話簡短。

語音克隆在娛樂和衛生保健– 為藝術家提供遠端語音工作（甚至死後）並協助有言語障礙的人。

然而，它引發了嚴重的隱私問題安全問題，強調保障措施的必要性。

它是如何被犯罪者利用的

網路犯罪分子利用語音複製技術冒充名人、當局或普通人進行詐騙。

他們製造緊迫感，贏得受害者的信任，並透過禮品卡、電匯或加密貨幣索取資金。

過程開始透過從 YouTube 和 TikTok 等來源收集音訊樣本。

接下來，該技術分析音訊以產生新的錄音。

一旦聲音被克隆，它就可以用於欺騙性通信，通常伴隨著欺騙來電顯示以顯得可信。

多起聲音克隆詐騙案件成為頭條新聞。

例如，犯罪分子克隆了一個人的聲音公司董事在阿拉伯聯合大公國策劃了一場價值 5,100 萬澳元的搶劫案。一個

孟買的商人成為語音克隆騙局的受害者，該騙局涉及來自印度駐迪拜大使館的虛假電話。最近在澳大利亞，詐騙者使用了一個聲音克隆

昆士蘭州州長史蒂文·邁爾斯試圖欺騙人們投資比特幣。青少年和兒童也是目標。

在一個綁架騙局在美國，一名青少年的聲音被克隆，她的父母被迫遵守要求。

它有多廣泛？

最近的研究顯示 28% 的英國成年人去年遭遇過語音克隆詐騙，其中 46% 的人不知道這種類型的存在騙局。它凸顯了巨大的知識差距，使數百萬人面臨詐欺風險。

2022 年，近 24 萬澳洲人報告成為語音克隆詐騙的受害者，導致經濟損失

5.68 億澳元。人們和組織如何防範它

聲音克隆帶來的風險需要

多學科反應。個人和組織可以採取多種措施來防止語音克隆技術的濫用。

第一的，

公眾意識活動和教育可以幫助保護人員和組織並減少此類詐欺。公私合作可以為語音克隆提供清晰的資訊和同意選項。

其次，個人和組織應該考慮使用

具有活體檢測功能的生物辨識安全，這是一種新技術，可以識別和驗證真人語音而不是假語音。使用語音辨識的組織應考慮採用多因素身份驗證。

第三，加強對複製聲音的偵查能力是打擊複製聲音的另一個重要舉措。執法。

最後，準確和更新的法規各國需要管理相關風險。

澳洲執法部門認識到人工智慧的潛在好處。

然而，對這項技術「黑暗面」的擔憂促使人們呼籲對「犯罪用途」進行研究人工智慧瞄準受害者」。

也有人呼籲執法部門採取可能的干預策略來解決這個問題。

這些努力應與整體結合打擊網路犯罪的國家計劃，重點在於主動、被動和恢復性策略。

該國家計劃規定了服務提供者的注意義務，這反映在澳洲政府的新政策中立法保護公眾和小企業。

該立法旨在規定新的義務，以預防、發現、報告和破壞詐騙。

這將適用於電信公司、銀行和數位平台供應商等受監管組織。目標是透過預防、檢測、報告和破壞來保護客戶涉及欺騙的網路詐騙。

降低風險

據估計，網路犯罪對澳洲經濟造成了損失420億澳元，公眾意識和強有力的保障至關重要。

澳洲等國家正在認識到日益增長的風險。打擊聲音克隆和其他詐欺措施的有效性取決於其適應性、成本、可行性和監管合規性。

所有利害關係人——政府、公民和執法部門——必須保持警惕並提高公眾意識，以減少受害風險。

本文轉載自對話根據知識共享許可。閱讀原創文章。