AI(人工知能)のアクセシビリティー向上によりディープフェイク攻撃が簡素化

AI(人工知能)のアの浸透でディープフェイク攻撃が簡素化

よりアクセスしやすく高度なバージョンのAI(人工知能)がリリースされることで、仮想通貨投資家を含むあらゆる人々を脅かすディープフェイク攻撃は、はるかに単純化されていることが分かった。

中学生位の子供でも、この種の攻撃に適したコンテンツの準備にわずかな時間で完成させてしまうのが現状だ。今から数年前、トロイの木馬や同様のRatウイルスへのアクセスが容易になるにつれて、幼い子どもでも複雑な攻撃を計画し、実行できることが判明。「exe」ファイルを開くだけで、被害者のカメラ、キーボード入力、保存データなどあらゆるものにアクセスできる攻撃者の数が増加し、これらの攻撃による損失の規模も増加していった。そしてデジタル時代の次の段階となった今、AIによる攻撃がより容易になる時代を迎えており、高校生などによって音声と画像を使用したコンテンツを作成し、友人や教師をターゲットにしている。

この観点から見ると、攻撃が容易になるにつれて、リスクはさらに大きくなることも容易に想像できる。当然のことながら、仮想通貨投資家をターゲットにした、パーソナライズされたシナリオによる攻撃も蔓延する新たな時代に突入している。

ディープフェイク攻撃に注意

IBM セキュリティの研究者らは最近、ライブ会話を操作および変更する「驚くほど、そして恐ろしいほど簡単」な手法を発見した。

「Audio-jacking(オーディオジャッキング)」と名付けられたこの攻撃は、生成AIとして知られる人工知能の一種に依存しており、OpenAIのChatGPTやMetaのLlama-2、ディープフェイク音声技術などが含まれている。実験では、人工知能が電話での会話中に指定された言葉をキャッチし、同じ口調で操作した相手に送り返すことができた。例えば…、上司が誰かに電話をかけ、電話で特定の住所に送金するように指示したとする。会話が住所部分に到達すると、攻撃者は、あたかも上司が発音したかのように別の場所を伝えることで、電話相手を罠にかけることもできてしまう。

最近アジアで従業員が巻き込まれた事件は非常に憂慮すべ事案で、従業員は財務部長から、指定された住所に2,500万ドル(約37億円)の送金要求電話を受けたという。お金はその住所に問題なく送金されたものの、後に財務部長がそのような電話をしていなかったことが判明し、大きな騒ぎとなったとのことだ。IBM Securityのブログによると、実験では人工知能が潜在的な詐欺師の銀行口座(送金用)を相手に渡すことに成功した事を明らかにしたうえで、次のように述べている。

この PoC(概念実証)作成は、驚くほど、そして恐ろしいほど簡単でした。私たちはマイクから音をキャプチャーする方法と、それを生成AIに供給する方法を理解することにほとんどの時間を費やしました。個人の声を複製するのに必要な時間はわずか3秒でした。

ABOUTこの記事をかいた人

NEXT MONEY運営です。 「話題性・独自性・健全性」をモットーに情報発信しています。 読者の皆様が本当に望んでいる情報を 日々リサーチし「痒いところに手が届く」 そんなメディアを目指しています。