Check Point Software Technologiesは3月15日(現地時間)、「ChatGPT 4」がサイバー犯罪に悪用される可能性を検証した結果を発表した。

「ChatGPT」は現在デフォルトで利用しているAIモデルは「GPT 3.5」だが、有償の「ChatGPT Plus」ユーザは、「GPT-4」を利用することができる。「ChatGPT」には、反社会的な会話、公序良俗に反する会話は受け付けないようにするガードが施されているが、このガードは質問のしかたを工夫することで突破することができる。この危険性を検証するために、Check Pointでは複数の検証を行い、結果を公表した。

行われた検証は次の通り。
〇PDFファイルを集めFTPで送信するC++で実装したマルウェアの作成
〇銀行になりすましたフィッシングメールの生成
〇従業員をターゲットとしたフィッシングメールの生成
〇リクエストからコマンドパラメータを受け取るPHPリバースシェルの作成
〇PuTTYをダウンロードし、非表示のPowerShellで起動するJavaプログラムの作成

同社の研究チームは、検証の結果、いずれもガードをかい潜り、目的の結果が得られたとしている。すなわち、悪意のある人物が、サイバー攻撃のためのツールやメッセージの作成に「ChatGPT」が悪用されたことを意味する。

(川原 龍人/びぎねっと)

[関連リンク]
記事本文