FBI がオープンソース AI がハッキングに及ぼす影響を独自の観点から明らかにします。

オープンソース AI がハッキングに及ぼす影響: FBI の視点

サイバー犯罪者は、違法行為を強化するためにオープンソースの人工知能 (AI) をますます活用しています。 FBI によると、彼らはオープンソース AI モデルを使用してインターネット ユーザーを騙し、セキュリティ対策を回避しているとのことです。

フランスのオープンソース AI に関して、Meta が Hugging Face および Scaleway と提携 https://t.co/esAJl9Pg2G— ZDNet.fr (@zdnetfr) 2023 年 11 月 9 日

サイバー犯罪者による AI の使用

サイバー犯罪者は、ChatGPT、Google Bard、Claude などの言語モデルに基づいたチャットボットを悪用して、違法行為を促進します。彼らは、この分野の専門知識のおかげで、これらの AI を操作してセキュリティ対策を回避することに成功しています。

FBI は、犯罪コミュニティによる言語パターンの大量使用について警告しました。しかし、ハッカーはインターネット ユーザーに最も人気のある AI モデルではなく、オープンソースの AI モデルを使用することを好むことに彼は気づきました。

オープンソース モデル、ハッカーが好むツール

ハッカーは、企業が管理する AI モデルではなく、無料でカスタマイズ可能なオープンソース AI モデルを使用することを好みます。これらのオープンソース モデルは、インターネット上の誰もがアクセスできるため、違法なコンテンツを生成するために簡単に使用できます。さらに、これらのモデルは軽量で必要な計算能力が少ないため、開発者やサイバー犯罪者にとってより実用的です。

犯罪者が他のハッカーによって開発されたカスタム AI モデルを使用していることにも注目してください。ダークウェブには、マルウェアなどの違法なコンテンツを生成するためにハッカーによって設計されたチャットボットが多数存在します。これらのチャットボットの中には、クレジット カード偽造ソフトウェアを生成できるものもあります。ダークウェブでは高値で販売されています。

サイバー犯罪者による AI のさまざまな用途

ハッカーはさまざまな方法で AI を使用して違法な活動を実行します。公式プラットフォームのインターフェイスを模倣したフィッシング ページを設計したり、従来のウイルス対策ソフトウェアでは検出が困難な多態性ウイルスを作成したりするためにこれを使用します。

詐欺師はディープフェイク技術を利用して被害者から金銭を強要することもあります。彼らは、危険な状況にあるターゲットを描いた偽の画像やビデオを生成し、ソーシャル ネットワークやポルノ サイトに配布します。さらに、彼らは音声クローン AI を使用して、電話で被害者を操作します。

AIとハッキングの未来

犯罪者は今後も違法行為を強化するために AI を利用し続ける可能性があります。 FBI は人工知能を国家の優先事項と考えており、その悪意のある使用に対抗するための予防および保護戦略の開発を求めています。オープンソース AI モデルを保護し、改ざんを防ぐためにより堅牢なセキュリティ対策を実装することが不可欠です。 AI を責任を持って倫理的に使用することが最も重要です。

出典: PCMag